從爆紅到被整改，換臉App“ZAO”降溫

圖蟲創意 圖

9月4日，工信部官方發布消息，9月3日，針對媒體公開報導和用戶曝光的“ZAO”App用戶隱私協議不規範，存在數據洩露風險等網絡數據安全問題，工信部對北京陌陌科技有限公司相關負責人進行了問詢約談，要求開展自查整改。

不到一周，從爆紅刷屏社交圈到深陷輿論旋渦，AI換臉App“ZAO”經歷了大起大落。

在這背後，被稱為霸王條款的用戶協議或並不是問題的重點，有業內人士指出，真正應該擔憂的是，當人工智能強大到可以以假亂真，當深度學習的操作門檻越來越低，當技術突破底線，用戶如何保護自己的隱私和個人信息安全？

給“ZAO”降溫

天眼查顯示，“ZAO”的運營主體為長沙深度融合網絡科技有限公司，其成立於2017年9月20日，由海南喵咖網絡科技有限公司100%控股，後者由王力和雷小亮各持股50%，王力是陌陌公司董事、總裁及COO，雷小亮則是陌陌聯合創始人。

今年7月，長沙深度融合網絡科技有限公司曾發生股東變更，變更之前的股東是北京陌陌科技有限公司。

事實上，“ZAO”正是由陌陌內部快速孵化的一款產品，在上周末刷屏社交網絡，但僅火爆了一天，便有越來越多的質疑聲出現。

首先是有用戶發現，“ZAO”的用戶協議中存在大量霸王條款，可能會對用戶的隱私、信息安全造成危害；隨後越來越多的用戶開始擔憂AI換臉可能被用於人臉支付，用戶財產安全、肖像權會遭到侵犯。

用戶的質疑與抵製迅速給“ZAO”潑了一盆冷水，而工信部的要求自查整改無疑使“ZAO”徹底降溫。

官方消息顯示，工信部要求陌陌公司相關負責人嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改，依法依規收集使用用戶個人信息，規範協議條款，強化網絡數據和用戶個人信息安全保護。

同時，陌陌公司還要進一步加強新技術新業務安全評估，切實采取有效措施，積極防範自有業務平台被利用實施電信網絡詐騙等風險隱患。

據媒體報導，9月4日，針對被約談問詢一事，“ZAO”運營團隊回應稱，上線以來，一直和各主管部門保持著積極順暢的溝通，將嚴格按照法律法規和各主管部門的要求，按照更加嚴格的標準，全面加強內容管理、完善各項管理機制，確保用戶個人信息安全和數據安全。

隱私問題敏感

在8月31日一下子成為現象級產品，刷屏網絡後，很快有人發現“ZAO”的用戶協議存在不妥的條款。

用戶協議第6條第(2)項提到，如果用戶把視頻內容中的人臉換成自己或其他人的臉，用戶同意或確保肖像權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權，以及利用技術對您或肖像權利人的肖像進行形式改動。

北京康達律師事務所律師韓驍向《國際金融報》記者表示，“ZAO”App用戶協議中的這一條款明顯屬於《合約法》四十條規定的免除自身責任，加重用戶責任的無效格式條款。

韓驍稱，單純用戶協議的規定並不構成用戶隱私權、肖像權的侵犯，但若App將用戶或不知情第三人的照片、視頻等上傳素材作盈利使用，或洩露權利人的個人隱私，造成相關權利人權利損害，則涉嫌侵犯隱私權和肖像權。

由於大量網友的質疑，9月3日，“ZAO”官方微博發布四點說明：“ZAO”不會存儲個人面部生物識別特徵信息；“ZAO”所呈現的“換臉”效果，是通過後期技術疊加所實現的虛構圖像，並沒有采集任何個人生物識別特徵；使用“ZAO”不會產生支付風險；用戶刪除信息或注銷账號，“ZAO”均會依據相關法律法規的規定刪除相應信息。

不過，律師認為，在發布這款產品時，“ZAO”侵害他人肖像權的風險已經存在。韓驍表示，“ZAO”換臉App提供用戶各類明星的肖像素材，若該App未經肖像權人同意作為盈利使用，則涉嫌侵犯明星的肖像權。

謹防倫理風險

在“ZAO”App中，用戶僅需上傳一張照片，就可以將影視作品中的賭神周潤發、小燕子趙薇、野蠻女友全智賢換成自己的臉，正如其宣傳語“僅需一張照片，出演天下好戲”一般，“ZAO”深度洞察名人效應和獵奇心理，迅速吸引大量用戶體驗“明星夢”、“名人夢”。

對於很多“資深”網絡用戶來說，AI換明星臉並不陌生，很多人第一次看到這個技術是在今年年初，有人將《射雕英雄傳》中朱茵的臉換成楊冪，並發布到網上，彼時網友驚呼“幾乎毫無違和感”。

對於更熟悉人工智能的群體來說，AI換臉在國外已經火了好幾年了。在2017年，一位用戶名為deepfakes的程序員通過AI工具、機器學習算法，將明星的臉與色情視頻演員的臉進行交換，很多歐美知名的女明星都曾中招。

由於受害者的投訴和大量的質疑聲，deepfakes账號被封殺，但事態演變方向越來越嚴重，這項技術的代碼直接被開源放到了GitHub上，AI換臉技術也由此被命名為“deepfakes”。

如今，通過開源工具，更衍生出了fakeapp、faceswap,、deepfacelab、deepnude等一系列AI換臉、AI脫衣程序。儘管這些網站聲明隻涉及AI技術的研究，不會濫用傳播涉及色情、政治等違法音視頻文件，但AI換臉背後所涉及到隱私、版權、倫理的惡性事件正在大量發生。

例如在搜索deepfakes時，網站會自動推薦引人遐想的超鏈接，首先受到傷害的便是女明星群體。更嚴重的是，AI換臉已經形成一條黑產鏈條，記者發現，在某二手平台，有賣家提供明星換臉色情視頻，甚至可以根據買家要求進行定製。

“ZAO”官方並沒有表示其AI換臉技術開源自deepfakes，但二者卻有不小的相似性。而且，“ZAO”作為手機應用程序出現，用戶不需要會寫程序，不需要用電腦下載軟體即可實現換臉，AI換臉的操作門檻大大降低，也意味著違法視頻的製作難度也在降低。