每日最新頭條.有趣資訊

這次鏡頭對準的是學生,下一次呢

視覺中國供圖

作者 | 程盟超

編輯 | 張國

我高中三年最驚悚的回憶,大概是教室後門的玻璃窗上,班主任不時浮現的黑色眼睛。這雙眼睛如果一直在,會有很多人坐立不安。

現在:這雙“眼睛”又來了。比肉眼還要靈敏的攝影頭被布置在教室中央,監控所有學生。人工智能則賦予了它更高級的判斷能力:他今天玩手機3次,打瞌睡2次,舉手0次,學習不認真;她這堂課露出8次疑惑和3次厭惡的表情,微笑卻只有1次,可能不太適應這位教師;教師則可以不動聲色地查閱所有信息。

最近試水這一領域的,是人工智能行業的明星企業曠視科技。一個趴在課桌上微笑的女孩,在這家企業的產品演示圖裡,被標注了“睡覺、閱讀、舉手、玩手機”等行為的次數。這引起了熱議,有人說,管理學生搞得像治理監獄。

被罵慘的企業可能感到很冤。它算不上先行者,一家教育企業早就宣稱,自家的技術能識別學生的專注度和情緒;百度公司則在2018年表示,監控學生的頭部動作和表情,就能辨別對方是否專心聽講,並“貼心”地推出了定制服務。這些新技術應用的“正面案例”大多淹沒在資訊的海洋,為數不多“翻車”挨罵的是杭州的一所中學。去年,該校領導在電視鏡頭前熱情演示了類似的系統。輕點幾下,幾個“不專注學生”的名字出現在大螢幕上。

有人懷疑這越界了。大多質疑聲投給了人工智能這項新技術。剛起步、未成型的東西代表未知,而未知帶來恐懼。最糟糕的猜想在科幻小說裡被描述過——人類的舉手投足被人工智能分析、控制,失去自由。

我想起高中班主任的眼睛和他手裡的教鞭,以及一些舊聞:人工智能還沒有流行時,學校風靡安裝攝影頭。有班主任使用班費裝了一個,每天監控班級;也有學校讓家長交100元,就可以隨時查看孩子的一舉一動。

好像也沒什麽不同,所以,我害怕的是人工智能,還是那些充滿控制欲、想把學生框進他們設計好的模子裡的人?或許人工智能本身並沒有引發“新問題”,它只是一個工具,交到了那些本就讓人反感的人手中。

一個流行的說法是,新技術一定會帶來新問題,比如人工智能會帶來隱私爭議。但同樣的人臉識別,被用於安防、尋找走失幼童、監護老人或重症病人,很少會陷入爭議。這些事人命關天,它們符合人們牢固的共識。我們每天使用的App,如今也都要拿走信息,分析和揣測我們的喜好。大多數人會同意那則協議,選擇用數據換取方便的生活,這是我們自己的決定。

但那個植入教室的攝影頭引發了軒然大波。孩子們很少能有與教師乃至學校平等的話語權,他們沒得選擇;再好的學生也會走神、會犯困,被一直注意只會帶來緊張甚至壓抑,沒人喜歡被控制,長輩卻總想要一直聽話的孩子;為了在監控與分析下取得“優良表現”,孩子們會不會被迫表演,就像我們經歷過的那些必須朗聲發言與熱烈鼓掌的公開課,這樣的學習有樂趣嗎?直至像一位網友所說,這項技術倘若被當成輔助工具,識別那些長期心情不佳、生活不順的學生,增添呵護,可能便具有溫情。可目前,廠家的賣點和買方的訴求,大都傾向於迫使學生時刻專心聽講,甚至直接獎懲。

這般理下來,發生在教室裡的這則公案,哪有“新問題”?都是“老問題”!技術發展帶來了諸多前所未有的倫理問題:能否編輯基因、克隆人類;有朝一日高度發達的人工智能是否該具備“人權”。但至少這次,問題沒那麽“浪漫”,就是後窗的眼睛變成了更高級的人工智能。

9月5日,教育部科學技術司司長雷朝滋在受訪時表露,對於類似人工智能,“要加以限制和管理,希望學校非常慎重。”“學生個人信息,能不采集就不采。”更大的背景是,今年7月,中國提出組建國家科技倫理委員會,將對新技術帶來的倫理和法律問題作出規範。

可以想象,這是一條必經之路。亟待完善的規則,既會涉及人類從未面臨的新場景,也要解決諸如這些監控、分析孩子們的攝影頭般,我們在過去尚未達成共識的問題。這也告訴我們,技術在未來的樣貌並不確定,不同人眼中的它們可能截然不同,需要彼此不斷探討甚至爭論。

教室攝影頭引發的風波裡,有網友激烈地反對。他說,我這麽激動,是不想自己的孩子成為被監控的對象。有人想象了一個略顯驚悚的場景:人工智能覆蓋學校後,學生之後的下一個監控對象是誰?教師。再然後,或許是職場裡的所有人——不夠“專注”都要扣錢。

所幸,至少在今天,人工智能基本還是人畜無害、讓人覺得新奇、下意識喜愛的“孩子”。至於幾年、幾十年後,它的樣子,不由它自己,而由今天的我們決定。

校園拒絕攝影頭

作者 | 江山

編輯 | 陳卓

最近,一些能夠識別人臉的攝影頭翻進國內學校的院牆,備受輿論指摘。不管學生是逃課,還是上課打瞌睡、玩手機都逃不過這個人臉識別系統的“法眼”。這雙冷酷之眼喚起了許多人對曾經高中班主任無處不在的恐懼,更掀起了關於教育初衷的大討論。

同一個世界,同一種擔憂。近日,瑞典一所高中使用人臉識別系統記錄學生的出勤,學校董事會被認為對學生個人信息的處理不符合歐盟《通用數據保護條例》(GDPR)的規定。瑞典數據監管機構對當地一所高中開出一張金額為20萬瑞典克朗(大約人民幣14.7萬元)的罰單。

而在美國紐約州北部的洛克波特市,當地一所學校本預計從今年9月開始使用人臉識別系統,用140萬美元的國家補助金安裝數十個監控攝影頭,對潛在罪犯進行監測。這項計劃也被美國教育部叫停。

事實上,人臉識別系統早在城市管理中就被廣泛應用。警察用它們比對犯罪分子和失蹤人員,交警用它們監控交叉路口,以捕捉超速和違反交規的汽車。去年,國內警方依靠人臉識別技術在張學友演唱會上抓捕約60名犯罪嫌疑人或在逃人員,還一度成為人們津津樂道的話題。

但自人臉識別技術誕生之日起,人們對這項技術的擔憂從未停止。在每個公園、街道攝影頭下甚至許多看不見的地方,你無法預知哪一刻你的表情會被無聲狩獵,更不知這些數據存儲時長、位置和使用用途,潛在安全風險難以評估。

今年5月,美國舊金山監事會以絕對多數的投票結果,決定禁止舊金山警方使用人臉識別軟體來查找罪犯。高新科技公司眾多的這座城市,成為美國第一個推出人臉識別禁令的城市。不久後,馬薩諸塞州的薩默維爾市議會也通過了禁止在公共場所使用面部識別軟體的法令。

當人臉識別技術進入校園,則變成一個更加嚴峻的問題。

安全本是人臉識別技術在校園應用的最初方向。在美國一些校園槍擊事件頻發的地方,人臉識別系統已經順理成章地進入校園。

今年,位於美國底特律市的直布羅陀公立學校,專門斥巨資引入新型數字安保攝影機,可以讓管理員和當地警察監控學校入口、走廊和其他區域,以防持槍分子潛入。這個學校的安全委員會負責人自豪地表示:“在采取措施讓學生更安全時,我們從來沒有遇到任何阻礙。”

該區學校向家長寫信稱,他們將監視重點放在“性犯罪者,被停學的學生,被停職或休假的員工等”,並承諾視頻片段將保留60天,之後將從伺服器中刪除,“不會記錄任何其他地區學生、工作人員或訪客的行動”。

但這項承諾並沒有讓擔憂者放心。在美國,任何年齡學生的生物識別數據均受《家庭教育權和隱私權法案》的約束,該法旨在保護學生教育記錄的隱私。而洛克波特市區學校的這項應用,讓紐約大學教育學院的教育顧問史蒂芬妮·科伊爾感覺,“這正在向孩子們傳遞這樣的信息,他們是不可預測的潛在罪犯”。她和其他人聯合致函紐約州教育部,反對在學校使用這項技術。“學生應該把學校視為一個值得好好學習的地方,他們不應該擔心他們的每一個舉動都受到監控。”

而另一些反對者認為,洛克波特市區學校尚未發布關於引進的人臉識別系統準確性的任何數據。“當系統出錯時,誰在被監控列表中並不重要。”一位法律隱私顧問說,“如果一個進入攝影頭的人被錯認成威脅者遭到誤會,下一步補救措施是什麽?”

當是否應該使用人臉識別系統維護校園安全尚在激烈辯論階段時,用它來保證出勤率和提高聽課效率則同引發更大的爭議。

在瑞典數據監管機構認為,在日常環境中對學生進行攝影監控等行為侵犯了學生的隱私。因為學校統計學生出勤率完全可以通過其他方式完成,而這些方式都比人臉識別技術對學生權益的侵害要小得多。

更何況,人臉識別技術對情緒的識別尚處於研究階段。賓夕法尼亞州立大學的一個研究小組進行研究發現,機器在識別人類情感時,人體可能比面部更具參考性。一位研究員表示,“我們發現根據肢體語言解釋情緒很複雜,即使人類也存在許多不一致之處。”何況在目前機器有限的識別能力範圍內,要做到對學生上課時的表情精確分析,仍為時尚早。

更重要的是,教育本就是一套教學相長的系統工程。人臉識別技術的濫用會讓人人自危。

在中國學校使用人臉識別技術的消息曝出兩天后,教育部科學技術司司長雷朝滋在接受記者採訪時表示,“(對於人臉識別技術應用)我們要加以限制和管理。現在我們希望學校非常慎重地使用這些技術軟體。”

其實,儘管人臉識別技術一進校園便成為抵製的對象,並不意味著人們因此因噎廢食。使用其基本原則,應該是被監控者知情同意和最大程度的隱私保護。

近日,美國伊利諾斯州和德克薩斯州通過生物特徵識別法,要求收集和使用人臉識別的公司和個體必須遵循一套基本的隱私協議。要求包括在收集前得到知情同意、規定數據保護義務和限制保留位置、禁止從生物特徵數據中獲利等。

在歐洲,據歐盟委員會的高級官員透露,他們正在計劃一項關於人臉識別數據使用的立法,這將賦予所有歐洲居民明確的決定權,“知道人臉識別數據何時被使用”。一組歐洲隱私監管機構希望將面部識別數據重新分類為“生物識別數據”,這意味著收集數據時需要對方明確的同意以及其他更嚴格的隱私保護。

但這依然有很長的路要走。其實更令人害怕的是,在人臉識別技術無孔不入地延伸後,人類只會變成一台台監控攝影頭下流水線上的冰冷機器,或者擅長使用肢體和表情掩飾情感的“戲精”。而在這背後,是人們關於讓渡安全還是讓渡隱私的矛盾。

早在兩年前的一部科幻劇《黑鏡》中,這種矛盾的結局已可窺見。一位焦慮的母親時刻害怕孩子受到傷害,從小給孩子身體植入芯片,便可以通過iPad隨時監視孩子的動態,還可以主動把孩子眼中任何涉及血腥、暴力和色情的內容都打上馬賽克。在故事的最後,母親的“含辛茹苦”最後隻換來了女兒義無反顧的反抗和逃離。

獲得更多的PTT最新消息
按讚加入粉絲團