美國聯(lián)邦貿(mào)易委員會（FTC）下屬的消費者保護局局長安德魯-史密斯（Andrew Smith）本周發(fā)布了一篇文章，名為《使用人工智能和算法》。該文章旨在對正在開發(fā)和使用消費級人工智能的企業(yè)提供一些幫助。

文章中的經(jīng)驗主要來自于 FTC 過去的執(zhí)法行動、行業(yè)報告以及研討會，其中一個最重要的信息就是建議企業(yè)在開發(fā)和使用人工智能時，不要讓消費者或者他們自身感到驚訝。

謹慎對待人工智能，除了有助于避免 FTC 的審查之外，還能帶來一些好處。比如還可以幫助避免與消費者和商業(yè)伙伴的關系受損。此次 FTC 在文中提出的建議主要分為四大類：

要透明。

向消費者解釋你的決定；

確保你的決定是公平的；

確保你的數(shù)據(jù)和模型是穩(wěn)健的、經(jīng)驗性的。

盡管其中許多信息涉及到 FTC 執(zhí)行的特定行業(yè)法律，如《公平信用報告法》（FCRA）和《平等信用機會法》（ECOA）等，但其實很多建議具有更廣泛的適用性。

擔起企業(yè)的責任

諸如 FCRA、ECOA 和 1964 年《民權法》第七章等行之已久的法律，他們分別適用于消費者報告、消費信貸、投票、教育和提供公共場所等領域的人工智能使用。要履行這些法律的義務，有賴于承認這些法律是否以及何時適用。

然而，F(xiàn)TC 的文章中討論的法律遠非詳盡無遺。在文章中提到的法律之外，還有一條重要的法律需要補充 —— 健康保險便利和責任法案（HIPAA）。

該法案制定了一系列安全標準，就保健計劃、供應商以及結算中心如何以電子文件的形式來傳送、訪問和存儲受保護的健康信息做出詳細的規(guī)定。法案規(guī)定在確保私密性的情況下保存病人信息檔案六年，還詳細規(guī)定了醫(yī)療機構處理病人信息規(guī)范，以及違法保密原則、通過電子郵件或未授權的網(wǎng)絡注銷病人檔案的處罰方案。

雖然通常情況下，當一個企業(yè)作為醫(yī)療服務提供者、保險人或信息交換中心時，通常是很清楚的，但要確定公司何時成為受保實體的「商業(yè)伙伴」可能更具挑戰(zhàn)性。

此次新冠疫情的影響加速了和醫(yī)療健康相關的 AI 產(chǎn)業(yè)發(fā)展，而這些企業(yè)在尋求技術突破的同事，更需要了解企業(yè)應該擔負的責任。

全面評估數(shù)據(jù)和 AI 模型

根據(jù)文章所述，F(xiàn)TC 已經(jīng)制定了評估 AI 系統(tǒng)是否存在非法歧視的法律和經(jīng)濟標準。

具體來說，該機構將查看輸入的信息，以確定它們是否包括「基于種族的因素，或此類因素的替代信息」。

文章中表達了一個強烈的觀點，就是 FTC 對通過使用 AI 可能產(chǎn)生的歧視的關注度相當高。“使用人工智能和算法工具的公司應該考慮是否應該對人工智能結果進行自我測試，以管理這類模型所固有的消費者保護風險”。

對供應商進行盡職調查，約束下游用戶

FTC 的 AI 指南中貫穿著另一個主題：公司應仔細評估 AI 相關數(shù)據(jù)和分析的上游供應商如何遵守其法律義務，并對其進行適當?shù)募s束，以防止自己的客戶以不適當或非法的方式使用 AI 服務。

雖然 FTC 重點關注 FCRA 和 ECOA 下的上游和下游要求，但遠離更多的高監(jiān)管活動才是其意圖。

在簽訂人工智能相關業(yè)務關系之前進行盡職調查，要求在合同條款中寫明人工智能系統(tǒng)和數(shù)據(jù)輸入的允許用途，以及監(jiān)督業(yè)務合作伙伴的表現(xiàn)，都是實現(xiàn)這些目的的關鍵。

FTC 在監(jiān)督人工智能在經(jīng)濟領域的使用方面的作用還處于起步階段，并將繼續(xù)發(fā)展。但不管怎么說，該機構此次發(fā)布的文章，對于隨著科技發(fā)展而新興的法律和企業(yè)對自我監(jiān)管的思考，都提供了一個有用的資源。