這兩天，許多人一打開朋友圈，就發現自己的親朋好友紛紛化身“影帝”“影后”，成為各色經典電影情節中的主角。這種新奇有趣的視頻，由一款名為ZAO的APP製作，其核心技術是通過人工智能，將用戶的面部數據與明星進行替換。
上傳一張照片就可以實現“AI換臉”，便捷的操作、有趣的玩法，很快就形成了病毒式傳播態勢。但ZAO熱鬧的背後，其實有著不少“細思極恐”的漏洞，涉及的法律、倫理、隱私等等問題均無法因一件“娛樂化”外衣消解。
比如，有細心網友發現，ZAO的用戶協議暗藏玄機。第6條寫道：用戶上傳發布內容後，意味著同意授予ZAO及其關聯公司以及ZAO用戶在“全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利”。翻譯一下，就是用戶一旦使用這款APP，就意味著把自己的肖像權完全讓渡給了該公司，它可以利用用戶肖像去做其他事情。雖然這並不意味著ZAO背後的公司圖謀不軌，但用戶肖像權就這樣無聲無息地被人掌握，頗有一種“人為刀俎我為魚肉”的觀感。
更要看到，在面部識別已經普及的今天，你我的面部數據如同一把鑰匙，與自己種種账戶的安危高度相關。ZAO一鍵把用戶的面部數據上傳到雲端，但凡公司裡有內鬼，或是公司保管不善造成數據洩露，別有用心之人很容易拿著我們的“臉”招搖撞騙。
ZAO身上的種種隱患，其實只是整個“AI換臉”技術爭議的冰山一角。面部識別可以說是當前AI技術商業化最成熟的方向之一。曾幾何時，人們寄望於此為社會增添便利。但2017年12月，美國某論壇上的一位用戶打破了這種想象。他發布的“deepfake”程序，借助深度學習算法，將色情內容中的演員替換成好萊塢影星。之後“AI換臉”又幫助很多人偽造了奧巴馬、祖克柏的視頻，借助名人效應吸引“吃瓜群眾”接受虛假視頻裡的觀點。在國內也曾有程序員將楊冪等明星的臉嫁接到別的視頻上。如今ZAO的出現無疑進一步拉低了門檻。
當前，一個技術小白只需要稍加學習，就可以製作假照片、假視頻、假聲音。人們愈發難以分辨網線另一端的那個人究竟是真還是假。從“深度學習”到“深度偽造”，人工智能開始“作惡”的速度如此之快，但我們卻遠遠沒有想好該如何應對這些新問題。就拿那些知名女星來說，自己的肖像權被肆意侵害並產生巨大的不良影響，想要維權卻困難重重，只能默默忍受那些視頻的傳播。可以預見，在資本的加持下，未來會有更多類似“AI換臉”的技術出現，對現有的社會秩序發起挑戰。直接“一刀切”全部封殺並不現實，如何趨利避害需要學界、業界與管理者盡快研究，切莫等到不可收拾。
來源：北京日報客戶端
作者：鮑南
監製：毛穎穎
編輯：崔文佳
流程編輯：孫佳星
香港九龍灣馬來街興發大廈15樓D室