每日最新頭條.有趣資訊

人臉識別屢遭非議,會成為“潘多拉魔盒”嗎?

科技日報記者 操秀英

人們對人臉識別技術的擔憂從未停止。

據《華盛頓郵報》近日報導,最新公布的文件顯示,美國聯邦調查局、入境和海關執法局的特工利用國家駕照數據庫進行人臉識別搜查,在民眾不知情或未同意的情況下,掃描了數百萬張美國人的照片。

據稱,美國眾議院監督委員會主席伊萊賈·E·卡明斯(Elijah E. Cummings)在給《華盛頓郵報》的一份聲明中表示,“執法部門對數據庫的訪問”,尤其對是車輛管理局的數據庫的訪問,“往往沒有征得同意,是在暗處進行的。”

另一則消息是,幾天前,美國馬薩諸塞州的薩默維爾市宣布禁止當地警方和市政部門使用面部識別軟體,成為美國第二個禁止該技術的城市。今年5月份,舊金山頒布法令,禁止警察和其他政府機構使用人臉識別技術。

“仔細分析會發現,對人臉識別等新興技術的態度,與美國素來有反對政府權利過於集中及商業(科技)巨頭壟斷的傳統有關,同時也不排除有美國各黨派間政治和選戰博弈的因素牽扯其中,但不管怎樣,這些新態勢提醒我們,美國各方開始從關注技術發展為主轉向考量技術的人文、倫理等因素影響,這說明其意識到不受限制的技術發展帶來的副作用,這對我們是很大的警醒。公共衛生治理中心執行主任、美國德克薩斯州聖瑪麗大學法學院兼任教授賈平告訴科技日報記者。

賈平說,去年以來,美國參議院和眾議院分別舉行了有關數據濫用的聽證會,“這說明這個議題已經從公眾、學者層面進入到政治考量。”

中國社會科學院科學技術和社會研究中心主任段偉文認同這一觀點。“美國公眾強調對政府部門權利行使的限制,對監控技術的應用比較敏感,在加州可能裝個攝影頭的困難。”他說,國內公眾從安全考慮不那麽反對攝影頭的安裝,但這並不意味著人們可以接受攝影頭的無序安裝和監控,特別是隨著人臉識別和智能分析技術的出現,大家必然會擔心數據安全問題,美國對人臉識別技術的警惕確實對我們是個提醒。”

段偉文分析,人們對人臉識別技術的擔憂主要來自侵犯隱私,及由此會帶來的諸如濫用、歧視等問題。

儘管一些人臉識別數據平台表示在采集到照片後會對照片進行脫敏處理,隻提取照片特徵,而非照片本身,即使這些特徵在傳輸過程中被竊取,也無法還原出照片,但是未經用戶允許調用照片,本身就是一種對隱私的侵犯。並且,這些數據依然可以用來跟蹤消費者的購物習慣,用於精準行銷。

同時,專家分析,人臉和其他生物特徵數據如指紋之間的一個巨大區別是,它們可以遠距離起作用。智能硬體、攝影頭隨時隨地采集我們的個人影像資料,長時間大規模地積累用戶數據,必然涉及個人數據與隱私保護問題。

此外,“人臉識別技術不僅可用於身份識別,還能用來判斷人的情感、健康等狀況,但如果保險公司用這一技術來判斷一個人的健康狀況並因此決定保費高低的話,很容易出現誤判、歧視等問題。“段偉文說,”深圳一家公司正計劃開展這項業務,比較欣慰的是,前幾天該公司老總來找我谘詢一些倫理問題,這說明大家慢慢有這個意識了。“

但這只是開始。更多公司依然將技術和應用放在首位。有報導稱,不少教育機構開始推出學生面部情緒識別與專注度分析系統,借助人臉識別技術,基於人臉表情來分析學生情緒,基於眼球焦點分析學生注意力情況,並將分析結果即時反饋給老師。

“至於這項技術可不可靠,失誤率有多大,是否侵犯學生隱私,學生如果演戲技術能否能鑒別等問題,目前好像還沒有研究和數據表明,也少有公司願意多花成本去研究。”一位不願意透露姓名的業內人士認為這項技術不靠譜,且不論學生是否會假裝,僅就技術本身而言,萬一出現漏洞,老師做出錯誤預判,對學生的影響將是巨大的。

“人臉識別技術的應用是否應該有個邊界,它在某個領域的技術是否已經成熟到可以應用,人臉識別數據應如建立怎樣的妥善保護機制,公眾是否有權知道算法的透明性等,這些開放性的挑戰都是當前亟需研究和厘清的問題。” 段偉文說。

“人臉識別等人工智能技術目前還處於野蠻發展階段,近年來,我們做了一些工作,開始強調個人隱私保護,但是還不夠。美國的最新態勢告訴我們,如果忽略技術發展中的人文因素,會帶來難以預測甚至災難性的後果。我們應以此為契機,更加深入討論這些技術和數據應用的邊界,建立數據安全和倫理的防火牆。賈平說。

“數據集聚時代的來臨,給現代科技倫理和科技立法均帶來挑戰,固有倫理與立法的精神和規範應結合時代發展,予以理解和解讀。新生事物與新發情況本身有其規矩與方圓。“中國政法大學國際法學院副教授曾濤謹慎表示,世界各國均對科技發展引發的新問題,如數據保護頒行新的法律,我國也應及時更新制定相應規則,同時呼喚相應行業倫理與監督標準。

“當下中國,需警惕以科技進步為名,因法律規範尚未及時跟進,侵蝕基本倫理和道德。”曾濤強調。

來源:科技日報 文中圖片來自網絡

編輯:劉義陽

審核:管晶晶

獲得更多的PTT最新消息
按讚加入粉絲團