微軟總裁呼籲：AI刷臉，美國政府該管一管了

李杉 編譯

量子位 出品 | 公眾號 QbitAI

美國的AI刷臉是不是該管管了？

過去一年，矽谷一直在因為如何處理數據、選舉和言論而應接不暇。現在，他們又有了新的擔憂：人臉識別。

就在過去幾個星期，批評人士指責亞馬遜將人臉識別技術賣給地方警察局，還對Facebook獲取歐洲居民許可，以便在其照片中識別其身份的方式提出質疑。

微軟最近同樣遭遇批評，原因是該公司員工抗議美國移民和海關執法局與之簽訂的雲計算服務使用協定。

微軟表示，那份合約並不涉及人臉識別。在人臉識別領域，提供給其他公司使用的微軟服務識別白人男性的準確率，遠高於女性或有色人種。

但是，為了幫助社會各界適應科技的快速發展，微軟總裁布拉德·史密斯（Brad Smith）今天發表一篇博文，呼籲政府對人臉識別進行監管。

史密斯並未闡述具體原則，而是建議政府創建一個“兩黨和專家委員會”對該問題展開研究，並給出建議。

史密斯提出，該委員會應該考慮的一系列問題，包括在執法部門或國家安全部門使用這項技術時可能對其進行的約束；通過各種標準避免種族歧視；在使用這項技術之前獲得人們的許可，尤其是在公共領域；對於可能被錯認的人給予法律保護。但他沒有詳細闡述微軟在這些問題上的觀點。

“在一個民主共和社會裡，在設計需要平衡公共安全和民主自由的問題上，什麽也不能取代民選代表的決策。”史密斯說，“面部識別需要公共和私有領域共同組織，共同行動。”

與很多科技一樣，人臉識別既有用，也有害。

網民使用谷歌、Facebook等公司提供的服務來識別照片中的人。蘋果允許用戶利用人臉解鎖iPhone X。微軟則通過Windows Hello提供類似的PC解鎖服務。Uber也借助微軟的人臉識別技術來識別駕駛員的身份。人臉分析也可以用於在辦公室、機場和酒店驗證身份。

但對於刷臉，並沒有頒布多少監管規定。

史密斯表示，政府數據庫或許可以用於監控參加政治集會的人，甚至監控你所瀏覽的資訊，甚至你不感興趣的內容。考慮到華盛頓目前的政治僵局，提議組建專家委員會是一種比較保險的方式，可以避免政府真的限制微軟或其他科技公司使用人臉識別技術。但微軟總裁稱，這種委員會過去10年曾經出現過28次，而且取得了一些成功。例如，9-11期間的委員會以及隨後對國家安全機構的調整。

廣泛使用人臉識別，好處顯而易見，可以在公共場所識別犯罪分子。

當然，除了利用技術幫助政府監管外，微軟總裁還表示，微軟及其他科技公司應該在使用這種技術時肩負更多責任。

包括增強透明度、減少偏見、緩慢而謹慎地推進技術。“如果我們過快地推進人臉識別，可能會發現人們的基本權利遭到侵犯”，史密斯還表示，微軟正在努力減少人臉識別軟體中的種族差異。

關於科技使用過程中的道德問題並不新穎。但隨著人工智能逐漸具備識別人臉、駕駛汽車、預測犯罪等功能，相關的研究機構、工業團體和慈善項目相繼出現。微軟2016年創辦了內部顧問委員會對廣泛使用人工智能展開研究。

史密斯還在博文中表示，當他們認為可能構成較大人權風險的時候，會對客戶的要求加以拒絕。但微軟拒絕披露具體案例。

微軟的模式贏得了斯坦福大學民主、發展和法制中心客座教授艾琳·多納霍（Eileen Donahoe）的讚賞。“微軟在認真思考他們開發的技術所產生的道德影響和人權影響時走在前列。”她說。多納霍表示，他預計這篇博文將引發其他科技公司參與討論。

有的批評者建議科技公司暫停人臉識別等人工智能技術的研究。但多納霍表示，這並不現實，因為其他領域也在開發這項技術。

“我更願意讓這些參與者跟他們的員工、用戶和美國政府互動，共同思考科技的潛在使用方式，以及使用科技的過程中可能所帶來的風險。”

紐約大學斯登商業和人權中心主任邁克爾·珀斯納（Michael Posner）表示，他歡迎微軟的表態。

但珀斯納也警告稱，政府本身也有可能濫用人臉識別技術，並呼籲科技公司確保“這些科技系統的開發者與其服務對象保持同等程度的多元化。”

他還呼籲企業針對科技使用方式開發“明確的行業標準和指標”。

最後，如果你對微軟總裁布拉德·史密斯（Brad Smith）的這封部落格感興趣，下面是傳送門：

https://blogs.microsoft.com/on-the-issues/2018/07/13/facial-recognition-technology-the-need-for-public-regulation-and-corporate-responsibility/

作者系網易新聞·網易號“各有態度”簽約作者

—完—