打假AI換臉！Facebook投千萬美金，發起全球打假挑戰賽

你或許已聽說過AI換臉。過去幾年裡，從美國總統川普到中國女星楊冪，都曾被換臉到其他人身上。不斷翻新的偽造視頻及其背後的技術deepfakes，正在引發全球性的擔憂與討論。

近日，Facebook宣布投入1000萬美元，聯合微軟、麻省理工學院、加州大學伯克利分校、牛津大學等機構打造deepfakes檢測挑戰賽，鼓勵全球的研究人員尋找打假方法。

···

deepfakes造假泛濫，引發全球性擔憂

謠言、假新聞……一直以來，虛假信息的監管都讓Facebook頗為頭疼。如今又出現了deepfakes這種極難分辨的AI造假技術，導致Facebook壓力山大。

Facebook創始人馬克·祖克柏就被deepfakes惡搞過。2017年9月，祖克柏發表了一段視頻講話，指責俄羅斯乾預美國總統大選。今年，一位藝術家以此為基礎製作了偽造視頻，讓祖克柏“說”了許多令人反感的言論。

在中國，網友更熟悉的可能是基於deepfakes的娛樂性視頻，比如1994年版《射雕英雄傳》裡的朱茵被換成楊冪，還有最近的日劇女神新垣結衣被換臉成郭德綱。

新垣結衣被換臉成郭德綱。圖自網絡。

這種視頻無傷大雅，網友樂一樂也就過去了。然而，許多黑灰產團夥也瞄上deepfakes的優越性，把它變成了牟利工具。最典型的，就是利用deepfakes製作淫穢視頻，把女明星的臉換到AV女優身上。

此外，deepfakes還有潛在的政治和社會風險。奧巴馬、川普都中過招，被捏造出完全無中生有的視頻講話。“噩夢般的情況是，出現川普說‘我向朝鮮發射了核武器’的視頻。在任何人發現它是假的之前，我們已經進入一場全球性的核災難”，在美國國防高級研究計劃局組織的一次deepfakes研討會上，達特茅斯學院教授阿尼·法裡德（Hany Farid）舉例說。

今年6月，美國眾議院情報委員會就deepfakes舉行了聽證會，敦促科技公司在明年美國總統大選之前找到應對辦法。

留給 Facebook 等大公司的時間不多了。在Facebook首席技術官麥克·斯徹夫（Mike Schroepfer）看來，人工智能專家們花費了太多的精力來完善deepfakes，卻沒有在檢測方法的研究上給予足夠的時間。

···

“ AI打假挑戰賽”預計今年底開賽

目前，deepfakes檢測挑戰賽的官網已上線。“當出現新形式的錯誤信息時，我們需要新的努力來打擊它們。像deepfakes這樣的新技術生成的視頻，讓看上去真實的人表達一些虛構的東西，這是一個巨大的技術挑戰。” 根據官網說明，比賽的目標是開發出一種好用的技術，幫助檢測深度偽造視頻、防止被篡改的虛假新聞廣泛傳播。

以假亂真的偽造視頻。圖自網絡。

值得注意的是，Facebook們此次特別注意了隱私和肖像權的問題。社交或視頻平台的用戶數據不會包含在此次比賽的數據集中，主辦方正在構建一個專門供比賽使用的新數據集。也就是說，經常在網上曬照片或視頻的網友們，不用擔心自己的數據被抓取並成為偽造視頻的主人公。

構建一個包含大量偽造視頻的新數據集，並不是項輕鬆的工作。按照計劃，該數據集將會在今年12月召開的神經信息處理系統會議（NeurIPS）上發布。比賽也會在那時開始，並將延續到2020年3月底。在此期間，全球的研究團隊都可以提交檢測模型參賽。

為了舉辦這項比賽，Facebook投入了1000 萬美元。Facebook的團隊也將參賽，但不會接受任何的金錢獎勵。

“我們還沒有在我們的平台上看到這個問題。但我的假設是，如果你降低使用門檻——讓偽造視頻來得更便宜、更容易、更快速，人們惡意使用技術的風險顯然會增加。”麥克·斯徹夫表示，deepfakes正在迅速發展，設計更好的方法來標記或防範潛在的偽造信息是至關重要的。

綜合：南都記者馮恆星戰役