“換臉”玩得瘋 最好系上“安全帶”

一夜之間，換臉軟體ZAO火了，火到伺服器都扛不住了。昨天，大量用戶在社交平台抱怨“下了軟體卻無法生成視頻”。與伺服器一起“崩”的還有平台上約6000字的用戶協議，被多個法律專家指責“過度索取肖像權”。隨後，ZAO迅速修改了協議，剔除了用戶照片視頻不可撤銷、永久授權平台免費使用的條款，並表示用戶視頻會按照法律規定保留在伺服器中，但這並不能打消人們對人臉隱私信息可能被濫用或盜用的擔心。 在2019世界人工智能大會上，已經有專家指出，人工智能應及時系上“安全帶”。為了進一步印證類似的人臉App安全性，記者體驗了40多款涉及人臉信息識別的App，發現不少問題。

換臉前

換臉後

事件

AI換臉軟體伺服器“累崩”

“我跟胡歌演對手戲啦。”“我已穿越到延禧攻略！”8月30日晚，大批網友在社交平台發布了與明星合演的小視頻，“奧秘”就是從換臉軟體ZAO中上傳一張個人照片，再選擇想要出演的片段和替換的明星。記者上傳了一張網絡照片，並進行視頻製作。在等待了1分鐘後，視頻生成。記者選用的替換視頻是瑪麗蓮·夢露的幾段影視作品。替換的視頻中，女孩的五官和視頻中的瑪麗蓮·夢露融合在一起，表情也很自然。

“這個月花700萬租的伺服器，今晚已經消耗1/3了。”31日晚間，ZAO官方微博發出這樣一句感歎。然而，即便如此，這款軟體仍然無法應對海量用戶需求。一時間， “ZAO崩了”迅速成為微博熱點話題。

記者實測發現，31日20時，在平台上傳照片並點擊“造視頻”，頁面顯示的是：當前製造任務已滿，無法制造；23時30分，記者用另一個账號登錄後，平台顯示“當前伺服器製造量過大，請稍後再試。”與此同時，ZAO在蘋果手機App Store的免費App排行榜中已經飆升至第二名。

昨天早上7時，記者再次嘗試，發現平台運行恢復正常。可上午10時，記者製作視頻時，伺服器再次顯示“繁忙”，又回歸“累崩”狀態。

進展

用戶協議增加“特別提示”

記者注意到，該軟體的信息安全引發熱議。用戶差評主要圍繞平台用戶協議展開。在8月30日當天，平台的用戶協議中第6條第1款規定：“在您上傳及/或發布用戶內容以前，您同意或者確保實際權利人同意授予‘ZAO’及其關聯公司以及‘ZAO’用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於可以對用戶內容進行全部或部分的修改與編輯……以及對修改前後的用戶內容進行信息網絡傳播以及《著作權法》規定的由著作權人享有的全部著作財產權利及鄰接權利。

有用戶指責平台“利用用戶不仔細看條款內容的心理，永久使用用戶肖像權”；還有用戶因為“上傳照片後，自己刪不了”而擔心自己的“人臉信息被用於違法犯罪活動”。

8月31日晚，ZAO在用戶協議開頭增加了“特別提示”，“您基於本協議及您使用ZAO的相關服務而授權給ZAO的相關內容（您上傳的短視頻及您的人臉等），ZAO僅限用於為您提供上傳/發布短視頻以及利用技術對平台上的短視頻進行局部修改生成新的短視頻的服務，相關的內容將嚴格按相關法律法規的規定保留在ZAO上，除非為了改善ZAO為您提供的服務或另行取得您的再次同意，否則ZAO不會以任何其他形式或目的使用上述內容。”

調查

“霸王”條款屢見不鮮

涉及人臉信息識別的App不光有ZAO，記者體驗了40多款涉及人臉信息識別的App後發現，與ZAO類似的“霸王”條款屢見不鮮。例如，在一款名叫“人臉識別系統”的App的《用戶協議》中，第3.1.2款規定，“您是您的用戶內容唯一的責任人，您將承擔因您的用戶內容披露而導致的您或任何第三方被識別的風險。”又如在換臉類App“Face link”的《用戶協議》中第2.4款規定，“Face link”為用戶提供合法的、健康的產品及服務，但是用戶應對其使用自行承擔責任及風險，在任何情況下不就因使用或不能使用提供的服務所發生的特殊的、意外的、直接或間接的損失承擔賠償責任。

這40多款App中，沒有一款在注冊登錄頁有勾選按鈕，都是通過手機號或者微信等社交媒體账號注冊。著急登陸並試玩用戶，可能並不清楚一閃而過的注冊頁面後，自己接受了哪些“霸王條款”，注冊之後用戶必須同意授權提供設備信息等權限，才可繼續使用。並且，其中僅有不到10款App的《用戶協議》，在協議開頭就人臉信息的收集和使用規範做出特別提示，並在用戶協議裡設置了有關人臉信息的條款。

記者還發現，數十款換臉類App根本沒有《用戶協議》和《隱私政策》。

提醒

法律專家：

“換臉”App盡量少用或不用

中國社會科學院法學所副研究員陳根發告訴記者，《個人信息安全規範》規定，個人上傳的可以識別面部特徵這類敏感的個人信息，在收集個人敏感信息時，應取得個人信息主體的明示同意。應確保個人信息主體的明示同意是其在完全知情的基礎上自願給出的、具體的、清晰明確的願望表示。“中央網信辦今年5月份頒布的《App 違法違規收集使用個人信息行為認定方法（征求意見稿）》也明確規定在 App 安裝、使用等過程中需通過彈窗、鏈接等方式提示用戶閱讀隱私政策，隱私政策鏈接和文本也要正常顯示。人臉采集等敏感個人信息還應該在協議開頭做出特別提示。”

融商律師事務所合夥人王穎律師向記者強調了嚴格監管肖像使用的必要性：“監管是不能超前而必須滯後的，因為過於超前的監管，肯定會阻礙科技的發展。但是科技的應用，應該是有限制的。在相關監管暫時沒有跟上的時候，企業也應當負起自己的社會責任。”

王穎認為，信息被濫用，侵害無辜人的肖像權、名譽權和個人隱私等問題是必然會出現的，而其中使用者必須默認同意的設置也肯定是錯誤的，涉嫌霸王條款。“具體可以參照2017年支付寶的《芝麻服務協議》的那個爭議。”

王穎律師說，《消費者權益保護法》中明確規定，消費者有選擇權，默認同意必須是法律規定，或雙方事先約定。“如果這兩條都沒有，程序選擇了自動勾選，那肯定是錯誤的。涉嫌平台逃避責任，限制消費者權利。”

北京市京劍律師事務所主任律師金翔仔細解讀了ZAO用戶協議的條款。他提醒說,只是為了娛樂，隨意提供自己的肖像在上述App上使用，在目前的網絡環境和此類新生事物法律監管幾乎處於空白的狀態下，實在是弊大於利,建議使用者謹慎使用，在自己沒有弄清楚使用它的法律後果之前，盡量少使用或者不使用。

延伸

互聯網專家：

人工智能應及時系上安全帶

“其實可以這麽理解，肖像就是你的身份證，或者說就是你身份信息數據庫的一部分。”DCCI互聯網研究院院長劉興亮表示，隨著人臉識別的應用越來越廣泛，每一個普通的肖像都成為身份信息的重要組成部分，“通俗地講，肖像就和身份證號、你的手機解鎖密碼、聲音、指紋等一樣重要。”

信息安全工程師范屹表示，在人臉識別領域，官方應用更值得信賴，“我們比較常遇見的，像鐵路系統，這是官方背景的、比較安全的人臉識別應用。”但他同時強調：“我們已經習慣了，密碼不能告訴別人，身份證號、銀行卡號不能隨意洩露。但是我們自己的人臉，卻沒有足夠重視。換臉App玩起來開心，背後的隱患卻不被重視。”范屹透露，被盜用的肖像會被應用到何處，現在還不明確，但是其潛在隱患無法忽略，“現在網約車平台要求司機必須進行完人臉識別才可以接單，以保證安全。如果被換臉的司機通過了人臉識別，乘客安全就無從談起了。”

在2019世界人工智能大會上，騰訊董事會主席兼首席執行官馬化騰說，在AI的治理方面，要以“科技向善”引領全方位治理，確保AI“可知”“可控”“可用”“可靠”。微軟全球執行副總裁沈向洋表示，今天我們是人工智能的發明者，我們絕對不可能也不應該等到80年以後才為人工智能補上一條“安全帶”。