AI換臉：人工智能的一場裸奔

這兩天，微信朋友圈和微博都被一個名為“Zao-逢聯造戲”的換臉APP刷屏。

上傳一張照片，就能把諸多明星塑造的角色換成自己的臉，漫威系列的“緋紅女巫”，《泰坦尼克號》中小李子扮演的“傑克”，或是《喜劇之王》裡的“柳飄飄”。

只需幾秒，便可跨越AI換臉的高難技術門檻，實現和偶像互動飆戲的美夢，如APP宣傳語所說，“只需一張照片，出演天下好戲”，很難不讓人心動。截至9月1日晚，該APP已經在蘋果商店免費榜排行第一。

有法律專業人士提出，該產品涉及侵犯著作權、肖像權、隱私權等諸多法律問題，有用戶表示“自己莫名成了權利侵犯者或受害人，不知道注銷（账號）後是否能保護自己的肖像權”。但也有網友不懼隱患，直言“只要能和偶像同框，不怕風險”。

中國“Zao”

引發這場討論的根源是Zao隱藏在用戶協議中的霸王條款，一方面過度攫取用戶授權，另一方面涉嫌侵犯肖像權，並甩鍋給用戶。

在最初的用戶協議中，第6條第1款規定：“在您上傳及/或發布用戶內容以前，您同意或者確保實際權利人同意授予Zao及其關聯公司以及Zao用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於可以對用戶內容進行全部或部分的修改與編輯。”

也就是說，用戶同意將自己的肖像授權給Zao，即便有一天肖像被再次轉賣也無能為力。

同時，協議第7條第7款寫明：“若您侵害他人名譽權、肖像權、知識產權等合法權利的...Zao可以訴諸行政執法機構或司法機關，追究相應法律責任。若因您違反本協議或Zao平台的其他規則導致任何第三方損害的，您應當獨立承擔法律責任並承擔損害賠償責任；Zao及其關聯公司遭受損失的，您也應當一並賠償。”

翻譯過來就是，如果有人起訴被侵犯了肖像權，Zao可以說技術無罪，侵權的是玩換臉遊戲的用戶。

這讓上一秒還在感歎“科技改變生活”的網友坐不住了，Zao也馬上對協議作出了修改，新版用戶協議中刪除了“不可撤銷”“完全免費”“永久”等字樣，但問題仍未解決。

“我一直認為‘AI換臉’隱藏了不可回避的法律問題，所以看到Zao出現後，很好奇他們是如何解決的，很遺憾，他們並沒有解決。”北京煒衡律師事務所一級合夥人、律師李昆蔚對《中國新聞周刊》說，協議修改後，侵犯著作權、公眾人物肖像權的問題仍沒有解決，同時，用戶在注銷账號後，動態和靜態肖像是否可以刪除，為什麽區別對待公眾人物肖像和普通人的肖像，“這些問題需要Zao來回答，也是我發問的初衷，目前還沒有收到Zao法務的回復。”李昆蔚說。

Zao背後的注冊公司是“長沙深度融合網絡科技有限公司”，兩位實際控股人（各佔50%）與社交應用“陌陌”密不可分，執行董事雷小亮是陌陌公司聯合創始人兼遊戲業務部總裁，監事王力是陌陌公司董事、總裁及COO，而“北京陌陌科技有限公司”曾在2017年9月參股，直至今年7月19日才退出股東名單。據天眼查顯示，長沙深度融合預留的聯繫電話屬於陌陌科技，截至發稿，該公司並未對用戶協議問題作出回復。

換臉技術本身並不新奇，在美國好萊塢已經存在了20多年。2016年上映的《星際大戰外傳：俠盜一號》還原了《星際大戰4》（1977年）中總督塔金的角色，但其扮演者彼得·庫欣早在22年前就去世了，特效團隊為此找來一位長相酷似彼得的演員進行面部表情捕捉，然後用計算機動畫（CG）技術將塔金復活。不過盧克斯影業和迪士尼表示，在製作《星際大戰外傳》時已經取得了彼得家人和產權繼承人的同意。

將“換臉”推到風口浪尖的是一系列融合了AI技術的“假視頻”。

2017年12月，一個名為“深度偽造”（deepfakes）的用戶在美國論壇Reddit上發布了多段色情視頻，不同的是，他讓電腦學習好萊塢女明星的圖像資料，然後把女明星的面部移植到色情片女主角臉上，近乎完美地實現了動態換臉，這引發了大量討論和抨擊，最後以账號被封告終。

不過，AI換臉並未消失，用戶“深度偽造”隨後直接開源了項目代碼，更多效仿者隨之而來，為了紀念他，便用他的名字代稱“AI換臉”技術。據說，Zao也是基於“深度偽造”開源代碼開發出來的，但Zao並不是第一個。

從“換臉”到“深裸”

2018年1月，一個名為FakeApp的軟體上線，可實現“一鍵換臉”，視頻內容也是千奇百怪，包括惡搞美國總統川普，或是將自己的臉貼到好萊塢明星上。雖然Reddit明令禁止換臉視頻和圖片在該網站傳播，但仍有超過9萬名用戶在Reddit上傳播這類視頻。

今年6月13日，美國眾議院情報委員會召開關於人工智能深度偽造的聽證會，公開談論了深度偽造技術對國家、社會和個人的風險及防範和應對措施。美國外交政策研究所研究員克林特·瓦茨認為，深度偽造技術對美國2020大選具有潛在威脅——若放任偽造視頻擴散，則會對美國民主選舉產生不良影響，挫傷選民的積極性。

就在聽證會結束後不久，一款名為DeepNude（深裸）的App宣稱能實現“一鍵脫衣”，它再次把AI技術應用中的法律倫理問題推到台前。操作十分簡單，只要給它一張人像照片，等待30秒，就能得到一張裸照。由於風險超出可控範圍，研發團隊在產品上線幾天后便匆忙下架了該產品。

“我們啟動這個項目是出於娛樂的目的……從沒想過它會像病毒一樣擴散。我們不希望通過這種方式掙錢……從現在開始，不再放出任何版本，也不會授權任何人使用。” DeepNude團隊6月27日公開聲明道。

教育科技公司Coursera聯合創始人、美國史丹佛大學計算機科學教授、“百度大腦”原負責人吳恩達也在推特上公開批判，稱“DeepNude是AI技術最糟糕的應用之一”,AI技術的超級力量應該被用到推動世界發展的項目中。

“AI換臉技術是成熟的，之所以沒有被推廣，就是因為還有很多法律、倫理問題沒有討論清楚。”李昆蔚對《中國新聞周刊》說，“Zao現在的盈利方式還不清楚，但要是為了賺錢，去做一些鑽法律空子的事情，從而傷害了廣大用戶，是行不通的。”

除了侵權問題，還有網友擔心，既然人臉識別已經在支付場景得到應用，面部信息洩露，是否會導致账戶被盜刷？對此，支付寶安全中心8月31日發布公告：“不管換臉軟體多逼真，都無法突破刷臉支付。”支付寶安全中心表示，刷臉支付採用的是3D人臉識別技術，在進行人臉識別前，也會通過軟硬體結合的方式進行檢測，來判斷采集到的人臉是否是照片、視頻或者軟體模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。

瑞士科學家在一篇論文中就首次對人臉識別方法檢測Deepfake的效果進行了較為全面的測評，嘗試用最前沿的人臉識別系統去識別假視頻，結果錯誤率高達95%。

《人民法院報》官網微博評論道：“試用任何一款新型軟體的時候一定要認真閱讀用戶協議，多留個心眼，保護好自己的各項權益。”

“我不知道我們能否為此做好充分準備，但是我們還可以做更多的工作，確定敵人的計劃和意圖，盡早找出並揭露它，告知公眾他們需要關注什麽，應當做什麽，而不僅僅忽略他們所看到的一切。”美國眾議院情報委員會聽證會主席亞當·希夫表示。

雖然沒有一招製勝的方法，但阻止深度偽造負面影響蔓延的方法有很多，誠如馬裡蘭大學法學教授丹尼爾·希特龍在上述聽證會上總結的，對深度偽造的內容不能一竿子打死，很多深度偽造的合成媒體內容具有存在的正當性，而對影響國家安全、公共安全、民主政治的虛假信息才需要加強監管和規製。涉及刑事犯罪和一般網絡侵權的深度偽造適用不同的規製，監管應區別對待，美國相關立法目前主要從刑事犯罪角度對深度偽造予以規製。