舊金山或成為美國“禁止人臉識別軟體”的第一個城市

舊金山今天通過了對《停止秘密監視》條例所作的一些修訂，離成為美國第一個禁止使用人臉識別軟體的城市更近了一步。

監事兼規則委員會主席AaronPeskin表示，該條例將先征集公眾意見，之後由縣監事會投票表決。

正如Peskin在今年1月提出的那樣，條例寫道：“人臉識別技術侵害公民權利和公民自由的可能性大大超過了其聲稱的好處；這項技術將加劇種族不公正，並且威脅到我們的生活不受政府持續監視的能力。”

按照舊金山市的定義，監視技術包括車牌閱讀裝置、監視攝影頭、用於預測犯罪活動的軟體，以及虹膜掃描裝置和人臉或步態識別軟體等生物特徵識別技術。

就在舊金山認真考慮《停止秘密監視》條例之際，美國各地的立法者在考慮與隱私和AI有關的法規。

上周，伊利諾伊州立法機構差點通過了一項禁止錄製設備未經同意擅自使用的法律。

美國參議院目前正在考慮一項監管人臉識別軟體商業使用的兩黨法案和一項監管算法偏見的法案。

舊金山縣監事會正在考慮的立法還要求城市部門制定監管監視技術使用的政策，解釋購置新監視工具的合理性，並提交詳細說明監視和數據采集方法的年度報告。

如果通過，舊金山市審計辦公室還將對監視工具進行年度審計，該市將征求公眾意見，然後城市部門購置或部署新的監視系統。

雖然投票只是為了讓規則委員會繼續審議該法案，但今天的公眾意見引發了一些聲明，這些聲明主要來自關注隱私、技術、種族和經濟公正等問題的權益倡導組織。

由於政府可能濫用以及預計會對有色種族社區帶來影響，舊金山教育工作者聯會等組織和公設辯護律師辦公室的幾名成員都表示支持人臉識別軟體禁令。電子前沿基金會（EEF）的成員也支持提議的條例，EEF的辦公室離舊金山市政廳僅隔幾個街區。

一名公眾評論者提到了周一《紐約時報》的頭版刊登的一篇文章，該文介紹了微軟在中國使用人臉識別軟體在一個月內監視50萬維吾爾穆斯林人中所扮演的角色。

舊金山公設辯護律師辦公室的調查員Tim Kingston在意見征集會上對規則委員會表示：“我們不希望這裡出現這種事。”

Kingston還表示，他認為這部立法的通過對於確保公民對於新監視技術的引入擁有監督權和控制權，這個話題對於窮人、有色人種以及社會中無權無勢的人來說尤為重要。

他說：“目前的人臉識別技術是公司私有的，它是專有技術。我們不知道這項技術的底層；除非有嚴格監管，否則我們不會使用這項技術。”

麻省理工學院（MIT）的Joy Buolamwini在過去一年領導的研究發現，微軟、IBM和Facebook等大公司推出的領先的商用人臉識別軟體系統無法識別女性和有色人種。

亞馬遜的Rekognition面臨來自Buolamwini和美國公民自由聯盟（ACLU）的類似聲明。本月早些時候，多位著名的AI研究人員要求亞馬遜停止向執法機構出售Rekognition。

下個月，針對公司領導層的反對意見，亞馬遜的股東們將投票決定是否應限制使用Rekognition，除非可以審核公民權利。

如果認為人臉識別技術是執行調查或起訴所必不可少的，舊金山地區檢察官辦公室和警察局將享有豁免權，不受該條例規定的約束。但必須公開披露主張這種必要性的信件，並且交給市審計辦公室進行審核。

《停止秘密監視》條例是舊金山科技立法備受全國關注的最新例證。去年秋天通過的第65號提案（Prop C）引發了公眾爭論，Salesforce首席執行官Marc Benioff支持第65號提案，而 Twitter首席執行官Jack Dorsey和Stripe首席執行官Patrick Collison反對徵收3億美元的商業稅以應對無家可歸問題。