人臉識別技術禁令再來 美國又一城市禁止面部識別軟體

新智元報導

來源：venturebeat等

編輯：小芹、張佳

【新智元導讀】近日，美國又一城市通過了禁止在公共場所使用面部識別軟體的法令，成為繼舊金山之後全美第二個禁止面部識別技術的城市。美國會兩黨罕見地共同提案，擬立法暫停使用人臉識別軟體。在人臉識別技術應用方面，美國似乎走向了保守。

繼舊金山之後，全美第二個禁止面部識別技術的城市出現了。

近日，馬薩諸塞州的薩默維爾市議會通過了禁止在公共場所使用面部識別軟體的投票。新政策生效後，該市各機構、分局或下屬部門，均不得在公共場所使用面部識別技術。

面部識別技術在美國的推進困難重重。警方、政府部門等對使用面部識別協助警務有需求，但受到侵犯隱私、人權，歧視少數族裔、歧視女性等的指責。對面部識別的批判越來越多，除舊金山、薩默維爾市外，奧克蘭、紐約等城市也在考慮類似禁令。

全票通過：繼舊金山之後，全美第二個禁止面部識別城市

由於對潛在歧視和反烏托邦（dystopian）濫用的擔憂，近日，美國馬薩諸塞州的薩默維爾市（Somerville）議會投票禁止當地警方和市政部門使用面部識別軟體。這使得位於波士頓附近並擁有81,000人口的薩默維爾成為美國第二個禁止該技術的城市。該禁令是在5月份舊金山通過面部識別禁令之後實施的。該條例部分由ACLU（美國公民自由聯盟）撰寫，ACLU也幫助制定了薩默維爾法令。

除了禁止市政部門積極使用人工智能外，該法令還禁止在刑事調查或法律訴訟中使用面部識別軟體系統產生的數據或證據。當地法律沒有限制州或聯邦執法部門使用面部識別的範圍。

然而，法律將面部識別稱為“等同於要求每個人隨時攜帶和展示帶有個人照片的身份證”，並引用了對女性、年輕人、移民和有色人種面部識別錯誤匹配的擔心。

該條例以11-0的投票獲得通過- 這並不令人驚訝，因為11名薩默維爾市議員中有9位讚成立法。

隨著面部識別軟體開始滲透到工作場所，iPhone等消費者設備使用面部識別來驗證購買，警方也採用了很大程度上不受管制的技術。隨著面部識別已經發揮作用，政府剛剛開始考慮如何在社會中使用它。

Somerville城市職員John Long在一封電子郵件中表示，當地居民分享了98條書面評論，加上ACLU的支持信和來自貿易組織安全行業協會的反對信。該市收到的所有信件都支持禁令。

“在使用納稅人資金之前，任何新的安全技術必須證明是有效的，”薩默維爾居民Dmitry Erastov在一封信中說。

Logic雜誌的創始編輯和哈佛大學職員Moira Weigel表示：“我們知道，這些技術強製執行種族主義和cis-heterosexism，並為民主上不負責任的私人實體提供了大量敏感信息。舊金山是另一個擁有大量技術人員的城市，他們了解這些系統是如何運作的，並且也投票禁止它們，這並不是偶然的。“

同樣也是這幾天，警用攝影機制造商 Axon承諾將不為其產品添加面部識別軟體。

許多人工智能專家或隱私倡導者向州和國家立法者提供有關面部識別軟體相關風險和機會的建議，有利於暫停或徹底禁止該技術。

波士頓地區在面部識別政策辯論中扮演著相當突出的角色。馬薩諸塞州立法機構目前正在考慮由波士頓地區立法者讚助的法案“面部監視暫停法案”。

舊金山成美國第一個禁止面部識別監控的城市

在波士頓之前，今年5月，舊金山成為美國第一個禁止面部識別監控的城市。該措施以舊金山監管委員會的8-1投票通過，使舊金山成為美國第一個禁止警察和其他政府機構使用面部識別技術的城市。

近年來，由於強大但深度學習的普及，面部識別得到了顯著改善。在典型的系統中，分析面部特徵，然後與數據庫中的標記面部進行比較。

然而，人工智能研究人員和ACLU等民權組織特別關注面部識別系統的準確性和偏見。有人擔心，它們在正確認識有色人種和女性方面並不那麽有效。這個問題的一個原因是用於訓練軟體的數據集可能不成比例地是男性和白人。

目前還沒有關於如何使用人工智能技術或面部識別系統的聯邦法律，但一些州和地方政府已經做出了自己的努力：例如，伊利諾伊州有一項法律要求公司在收集生物識別信息之前征得客戶的同意。加利福尼亞州參議院目前正在考慮一項法案，該法案將禁止該州的警察使用生物識別技術（如面部識別）和身體攝影機。

根據新的舊金山法律，任何想要使用監控技術或服務的城市部門必須首先得到監事會（Board of Supervisors）的批準。該過程將包括提交有關技術及其使用方式的信息，並在公開聽證會上提交。根據新規則，任何已經使用監控技術的城市部門都需要告訴董事會是如何使用它的。

該條例還規定，該市每年都需要向監事會報告監管設備和服務是否按批準方式使用，還包括保存、共享或刪除數據的詳細信息。

不過，也有一些人反對該條例：“當負責任地使用時，它可能是一個很好的公共安全工具。”

美國會兩黨共同提案：立法暫停使用人臉識別軟體

上個月，美國國會兩黨在一場國會聽證會上正式討論了對執法部門使用面部識別軟體所帶來的日益擔憂。議員們聽了幾個小時的證詞，內容涉及不受監管的面部識別如何跟蹤抗議者，影響刑事司法系統，並加劇種族偏見等。

不同尋常的是，兩黨這次都表現出了合作的態度，同意共同努力對面部識別進行監管。

兩黨一致認為面部識別軟體有侵犯公民隱私權和抗議權的隱憂，尋求立法暫停此類工具的使用。包括面部識別軟體專家在內的團隊認為，在更完善的監管頒布或技術充分成熟之前，此類面部識別工具應由國家叫停。

當前，FBI 和國土安全局等聯邦機構在使用面部數據識別潛在犯罪嫌疑人前是不需要獲得搜查令的。目前還不清楚該委員會計劃如何起草法律來打擊潛在的違法行為，但兩黨議員都對美國公民的面部掃描可能侵犯了憲法權利這點提出了擔憂。

專家警告稱，由於這項技術推出得太快並且存在嚴重缺陷，可能會導致調查人員對潛在嫌疑人進行誤判。

美國並非唯一對面部識別技術憂心忡忡的國家。近日，歐洲人工智能高級別專家組(HLEG)發布報告，提議“歐洲應該禁止AI進行大規模監視和社會信用評分”。報告寫道：“政府應承諾隻部署和採購值得信賴的人工智能系統，其設計宗旨是尊重法律和基本權利，符合倫理原則，社會技術健全。”

膚色、性別歧視引爭議，專家批判面部識別技術被濫用

大約一年前，美國公民自由聯盟（ACLU）首次公開了亞馬遜的面部識別軟體已在使用的事實。從那時起，對該軟體的審計發現其更有可能偏向白人，對黑人很有可能識別不當，特別是女性黑人。當 ACLU 將國會議員與犯罪數據庫進行匹配時，亞馬遜的 Rekognition 軟體錯誤地將28名議員識別為罪犯。被識別為罪犯的 28 名議員中，40% 是有色人種，儘管國會議員中有色人種的比例僅為 20%。

沒有監管的現狀下，濫用面部識別技術的可能性很高，特別是對於有色人種。MIT媒體實驗室研究員和算法正義聯盟（Algorithmic Justice League）創始人 Joy Buowamwini 發表研究表明，人臉識別系統對膚色較淺的男性表現優於膚色較深的男性，而對於膚色較深的女性則表現最差。

她的研究成果遭到 AI 領軍企業的批評，但有數十位著名的 AI 研究人員為其辯護。她在會上說：“至少，國會應該通過一項關於警察使用人臉識別的禁令，因為人臉識別的濫用、缺乏監督和技術的不成熟會造成很大的風險，對於邊緣化社區而言尤其如此。”

美國走向保守：禁止人臉識別的城市在增加

自MIT的研究和 ACLU 的報告以來，微軟和亞馬遜都聲稱已經縮小了準確性方面的種族差異。

但是，改進技術以更好地識別黑色面孔只是過程的一部分：準確度很高的技術仍然可能被用來支持有害的警務。

如何使用這項技術很重要，這就是政策可以防止濫用的地方。微軟和亞馬遜提出的解決方案是，在人臉識別已經投入使用後，在對其進行種族和性別偏見的審核——這可能為時已晚。

科技的發展向來就是一把雙刃劍，任何一項技術的應用都常有利弊相隨。美國在人臉識別這樣的技術應用方面似乎走向了保守的道路，舊金山、波士頓郊區已經成為正式立法禁止警方和市政部門使用人臉識別軟體的兩個城市，奧克蘭也在考慮類似的禁令。在紐約，人臉識別被嘗試用於在大橋上識別車內司機面孔，結果是徹底失敗。

像人臉識別這樣的人工智能技術應用，到底應該鼓勵還是禁止，歡迎讀者朋友留言討論。

參考鏈接

https://venturebeat.com/2019/06/27/boston-suburb-bans-facial-recognition-software/

https://venturebeat.com/2019/05/22/facial-recognition-moratorium-receives-bipartisan-support-in-congress/

https://edition.cnn.com/2019/05/14/tech/san-francisco-facial-recognition-ban/index.html