AI換臉背後的麻煩。
深響原創 · 作者｜小軍 趙宇
核 心 要 點
AI換臉App“ZAO”引爆社交網絡，但背後的技術由來已久； 刷屏視頻涉嫌侵犯他人肖像權、名譽權、著作權等多項權力； AI換臉可能引發一系列隱私及倫理問題，作為普通用戶也不得不防。
一夜“成”明星不再是夢。
從昨天晚間開始，一個名為“ZAO”的AI換臉App忽然火爆全網，用這款App製作的換臉視頻在微博、朋友圈隨處可見。
用戶只需要上傳一張照片，就能將自己的臉替換成“小李子”“周潤發”“白展堂”“瑪麗蓮夢露”“緋紅女巫”等人的臉，其人臉融合效果幾乎能夠以假亂真。用戶可以通過這個軟體製作GIF動畫表情，也可以將自己換臉成偶像的搭檔，還可以與好友兩人一起進行換臉。
其實，AI換臉視頻早已不是新鮮事。
早在2017年12月，國外一個ID名為“deepfakes”的Reddit論壇用戶首次將自己製作的AI換臉視頻發布在了網絡上，它能夠把照片和視頻中的人臉替換成任何想要替換的人臉，有些肉眼甚至難以分辨真假。
由於效果逼真，“deepfakes”技術也被人應用在了一些成人視頻中。數以萬計的名人色情電影迅速充斥Reddit，隨後國外不少成人視頻網站的各種推送頁面也被佔領，最後連社交網絡Twitter也淪陷。包括斯嘉麗·約翰遜和《神奇女俠》女主角蓋爾·加朵在內的多名女星都因為AI換臉技術，“出演”了多部色情電影。
隨後，面臨法律和公關等多重壓力，Reddit等網站先後撤下所有AI換臉視頻，並宣布此後禁止類似視頻上傳。迫於壓力，Reddit還封殺了“deepfakes”的账號，不過這次封殺卻讓“deepfakes”直接開源了其AI換臉項目的代碼。
在代碼開源後，只要具備基礎的電腦知識，即使一個“菜鳥”也能在幾個小時內做出一部換臉視頻，該項技術立刻風靡全球。人們為了紀念“deepfakes”，就採用它的ID命名了AI換臉技術，稱之為“deepfakes”。
今年年初，B站UP主“換臉哥”發布的一段94版射雕英雄傳視頻中，飾演黃蓉的朱茵的臉被替換成楊冪，“換臉哥”所使用的技術就是“deepfakes”。
雖然“ZAO” App並沒有表示其換臉技術源自開源的“deepfakes”（“深度造假”）代碼，但二者的技術確實存在強烈的相似性。
“AI換臉一時爽”，但從目前看來，後續侵權、倫理等方面的風險層出不窮。作為一個用戶，在下載App嘗鮮製作、傳播換臉視頻的同時，也要考慮到它可能會給你帶來的麻煩。
「刷屏視頻涉嫌侵犯他人多項權力」
涉及到換臉這麽一個魔幻而又敏感的話題，是否可能侵權自然是第一個重要議題。
針對逐漸開始泛濫的AI換臉視頻，北京金誠同達律師事務所的劉宗鑫律師曾表示，AI換臉技術涉嫌侵犯他人的肖像權、名譽權和著作權等多項權利。
首先，換臉視頻涉嫌侵犯他人的肖像權。
我們來具體看一下很多用戶恐怕在注冊的事後都沒有細看過的“ZAO”的用戶協議。其中有這麽一部分：
“6. 您的必要授權：除非另有約定，您使用“ZAO”上傳及/或發布的用戶內容的所有權、知識產權及其他法律權利，歸您、您的許可方或者您的關聯方所有，責任亦由您承擔。”
這個條款字面上的意思已經非常明確了，基於細節條款，“ZAO”及其關聯公司以及“ZAO”用戶實質上獲得許可，用戶上傳內容後即是默認授予了自己上傳內容的部分使用權；而一旦構成侵權，“責任亦由您承擔”。
這個大項下的條款細節具體涉及到幾個層面：
“1) 在您上傳及/或發布用戶內容之前，您同意或者確保實際權利人同意授予“ZAO”及其關聯公司以及“ZAO”用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於可以對用戶內容進行全部或部分的修改與編輯（如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等）以及對修改前後的用戶內容進行信息網絡傳播以及《著作權法》規定的由著作權人享有的全部著作財產權利及鄰接權利；”
這也就意味著你的內容一旦上傳之後，就是默認許可“ZAO”以及“ZAO”平台上的所有用戶進行再次改編使用了——這裡的風險想來也不用我們細說。
“2）如果您把用戶內容中的人臉換成您或其他人的臉，您同意或確保肖像權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權，以及利用技術對您或肖像權利人的肖像進行形式改動。”
這一條則是明確了“ZAO”及其關聯公司有對用戶內容再次使用的權利。
“3) “ZAO”及其關聯公司可自行選擇是否使用以及使用方式，包括但不限於將前述信息在“ZAO”及其關聯公司旗下的服務平台上使用與傳播，將上述信息再次編輯後使用，以及由“ZAO”及其關聯公司授權給合作方使用、編輯與傳播等。“ZAO”及其關聯公司將盡最大努力在合理範圍內使用上述內容，且您的必要授權並不代表“ZAO”及其關聯公司對上述信息內容的必然使用，也不改變上述信息內容的所有權及其知識產權歸屬，更不影響您對上述內容信息任何合法使用；”
這一條則是為“ZAO”之後對用戶UGC的使用、跨平台的二次傳播，以及再編輯後使用，以及向合作方再次授權進行了規定。也就是說，基於這些條款下，你上傳的內容不但可能在“ZAO”被傳播，甚至可能經“ZAO”的授權許可被分發到其他平台上——而這一切都是在你點擊注冊的一刻就已經默認授權許可了的。
實際上，根據法律規定，任何人在未經肖像權人同意之前，都不得擅自將他人的形象製作成肖像，或者擅自使用他人肖像，否則構成侵權行為。今年4月二審的《民法典人格權編(草案)》裡，就已經有明文規定“任何組織和個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。”
一個簡單粗暴的解釋就是，在新的《民法典人格權編(草案)》下，管你是不是營利行為，只要被使用了肖像權的用戶（可能是你隨手上傳上去的同學照片）沒有明確同意授權，而你又“一時手賤”做了合成小視頻，對方就可以告你侵權了。
而根據“ZAO”的條款，上傳了就是授權了全平台及用戶使用乃至於二次編輯。但一旦侵權，那就僅僅是你的麻煩了。
其次，除了肖像權，AI換臉技術的濫用也可能侵犯他人的名譽權。
AI換臉技術可以將他人的面部任意“PS”在其他視頻中，從國外某視頻小網站一度被AI換臉視頻“攻佔”，就可以想象到有多少AI換臉可能被用到不利於肖像權本人的方面上。而根據法規，只要行為人合成的視頻可能導致他人評價降低，就涉嫌侵犯了他人的名譽權。
這個範圍就不僅僅局限於不雅視頻了。北京金誠同達律師事務所的劉宗鑫律師表示，除了不雅視頻之外，凡是將他人的面部PS在諸如辱罵、鬥毆、吸毒等可能導致他人社會評價的降低的視頻中，都可能構成侵權。
比如說你把某個當紅偶像明星換上了經典的發哥點煙電影橋段，但對方恰好是禁煙宣傳大使，那這也有可能因為“導致他人評價降低”，而構成侵權。
最後，AI換臉技術可能侵犯他人的著作權。
除了肖像權、名譽權等人身權利，製作對影視作品的換臉視頻還可能涉嫌侵犯著作權人所享有的“保護作品完整權”。
所謂保護作品完整權，是著作權人所享有的保護作品不受歪曲、篡改的權利。司法實踐中，北京知產法院曾在(2015)京知民終字第811號案中明確指出：
“侵犯保護作品完整權的行為不以“有損作者聲譽”為要件。也就是說，不論使用者是惡意還是善意、是否出於故意，只要對作品的使用客觀上起到歪曲、篡改的效果，改變了作品的內容、觀點、形式，就應判定構成對作品完整權的損害。”
也就是說，即便你僅僅是看不慣流量明星蹩腳的演技，把他們換成了一眾老戲骨， 依照上述觀點，你利用AI換臉技術“改編”影視作品的行為並沒有損害到著作權人的聲譽，但由於客觀上屬於未經作者許可改變作品的行為，也會涉嫌構成侵權。
綜合下來可以說，侵權方式何其多。可謂是，“AI換臉一時爽”，事後侵權火葬場。
「AI換臉引發的隱私及倫理問題難解」
事實上，AI換臉技術自爆發後，就一再被人惡意使用，隨之引發的隱私及倫理問題層出不窮。
最直接的一個問題就是名人明星的名譽權很難被保障了。
目前，國內外都有用戶使用AI換臉技術進行明星人物的換臉惡搞、甚至生成虛假視頻——比如今年6月時，Facebook首席執行官馬克•祖克柏的一段被篡改過的視頻浮出水面。
在視頻中，祖克柏的口型和聲音受到操控，正在以負面論調討論Facebook的影響力。
這段視頻的標題是Facebook將“提高廣告透明度”，但被篡改過的祖克柏的聲音則在說：“花一秒鐘想象一下，一個人完全掌控著被竊取的數十億人的數據，掌控著他們所有的秘密、他們的生活、他們的未來。”
而諷刺的是，網友查證這段假視頻的素材似乎來自於祖克柏談論俄羅斯乾預美國2016年總統選舉的視頻。
受此類事件影響，Facebook最近更新了相關政策，任何被第三方事實核查人員認定為虛假或具有誤導性的內容，都將被自動從運營廣告和Facebook盈利中被刪除。
為了解決類似問題，美國學術界、政府機構和一些創企已經開始紛紛推出自己的圖像、視頻驗證、標記技術，期望通過在你拍攝照片或視頻的時候自動添加時間、位置信息等方式，對抗AI換臉視頻、圖片帶來的威脅。
例如，創業公司Truepic正在與高通公司合作，將其技術添加到手機硬體組件中。這項技術將在拍攝照片和視頻時自動標記時間和位置等數據，以便日後進行驗證。Truepic還提供了一個免費的應用程序，消費者可以用它在智能手機上拍攝經過驗證的照片。
另一方面，隨著“刷臉支付”逐漸被推廣開來，那麽類似的“AI換臉”技術是否會對我們的支付安全造成影響，也成了普通用戶的一個直接憂慮。
2017年的央視“315晚會”就曾經披露過人臉識別技術可能曾存在的風險。在晚會現場，主持人在網上隨便找來的一張人物自拍，通過簡單的圖像處理和動態合成技術，將網絡人臉合成到事先準備好的視頻上，覆蓋原視頻的人臉，就能騙過一些通過面部識別作為認證信息的軟體。
兩年後的今天，雖然“AI換臉”技術日益精進，但在“刷臉支付”逐漸推廣開來的情況下，安全防護與當時自然也是不可同日而語。目前的“刷臉支付”除了人臉識別以外，通常還附加有多項活體檢測技術的支持。
曠視科技手機解鎖項目負責人喬梁曾在InfoQ的活動上介紹過，現在線上金融場景的活體攻擊主要有三類：第一類是換臉攻擊，把這個人臉上貼成另一個人的臉。第二類是螢幕翻拍攻擊，類似於手機解鎖攻擊。第三類是通過計算生成一張3D假臉進行攻擊。因為金融場景直接與經濟利益相關，攻擊手段也是層出不窮。
目前類似曠視科技的技術企業，會採用不同類型的活體算法來防禦這些攻擊，例如要求用戶搖搖頭、眨眨眼，來判斷當前進行操作的對象是不是一個“活人”。
喬梁表示，在支付上，只有特定的攝影頭硬體方案才能達到這種安全水準，例如蘋果所採用的結構光雙攝。基於結構光雙攝所採用的原理，它能防禦所有的2D攻擊手段，包括螢幕和紙張——那麽兩年前“315”晚會上的簡單破解方式，就很難在今天再次實現。
但由於支付場景的敏感性，攻擊者可能採用3D列印或者矽膠膜此類成本更高的攻擊手段來竊取機主的財產，這就需要算法公司繼續針對特定場景研究應對措施，解決此類問題。
所以說，“道高一尺，魔高一丈”，安全從來都是一個攻防交疊的領域，你有你的張良計，黑產也難免有黑產的過牆梯，我們也只能是保持樂觀，保持警惕。
而在大量倫理、法理、安全問題沒有解決的情況下，AI換臉就已經迎來了這樣消費級的移動端產品，難免會對市場帶來不小的衝擊。
不難想象，在“ZAO”一炮而紅之後，必然會有大量相似的產品迅速跟上——而這些快速上架的產品在用戶隱私、安全保護等方面考慮得有多深就不好說了。
今天，在只要幾張照片、視頻就能快速換臉的時代，你的“臉”不再是你的臉，那你還會是你嗎？
香港九龍灣馬來街興發大廈15樓D室