美國刮起“反AI換臉”熱潮，創企聯合對抗deepfakes

導語：部分初創企業、美國學術界和政府機構正在研究如何在2020年總統大選前對抗被篡改的視頻圖像。

智東西7月29日消息，據華爾街日報報導，部分初創企業、美國政府機構和學術界都在與所謂的“deepfakes”作鬥爭，他們擔心被篡改的視頻和照片會被用來擾亂明年的美國總統選舉。

deepfakes是“AI換臉”技術的名稱，起源於2017年，當時Reddit用戶“deepfakes”第一次上傳其製作的換臉視頻。這項技術能夠把照片和視頻中的人臉替換成任何想要替換的人臉，且效果十分逼真，有些肉眼甚至難以分辨真假。

為了解決這個問題，美國學術界、政府機構和一些創企紛紛研究推出自己的圖像、視頻驗證、標記技術，例如有的技術能在你拍攝照片或視頻的時候自動添加時間、位置等信息，它們希望通過這些技術能夠對抗AI換臉視頻、圖片帶來的威脅。

創企各出奇招，反擊AI換臉

圖像處理技術正在迅速發展並日漸普及、智能手機使得攝影頭無處不在、社交媒體也擴大了個人用戶的影響力，這些都使得AI換臉的威脅逐漸蔓延且越來越難以解決。

“雖然人工合成的視頻仍然很容易被檢測到，但這個難度正在不斷提升。我預計，12個月之內，我們會看到肉眼無法檢測到的deepfakes合成視頻，”聖地亞哥圖像驗證技術初創公司Truepic的首席執行官Jeffrey McGregor說。“社會將開始懷疑他們看到的每一個視頻或圖像內容。”

Truepic能夠標記照片的時間、位置等信息。

Truepic正在與高通公司合作，將其技術添加到手機硬體組件中。這項技術將在拍攝照片和視頻時自動標記時間和位置等數據，以便日後進行驗證。Truepic還提供了一個免費的應用程序，消費者可以用它在智能手機上拍攝經過驗證的照片。

英國創企Serelay的創始人兼首席執行官Roy Azoulay表示，他們目標是創建一個類似於Twitter帳戶驗證的系統，然後將其應用於照片和視頻，該公司也正在開發標記真實圖片的方法。

“在你拍攝照片或視頻時，Serelay可以捕獲數據，例如相機與手機信號塔或GPS衛星相對的位置”，該公司表示。它與使用該技術幫助驗證損害索賠的保險公司建立了合作關係，但是它拒絕透露這些公司的名稱。

單一方法難以檢測AI換臉視頻圖片

近期，美國國防部正在研究一項名為forensic的圖像鑒定技術，該技術可用於檢測照片或視頻在製作後是否被篡改。其技術原理是尋找圖片和視頻中的不一致性，作為圖像是否被篡改的證據，例如不一致的光照、陰影和相機噪音等。

蒙娜麗莎也被換臉。

複雜的deepfakes檢測還需要其他的驗證方法，例如點捕捉法（point-of-capture）。專家們通過觀察面部表情和頭部運動的不一致性發現篡改的證據。然後，他們試圖使這個過程自動化，這樣計算機算法就可以自動檢測圖片或視頻中的不一致。

forensic方法可以應用於幾十年前的照片和視頻，以及最近用智能手機或數位相機拍攝的照片和視頻。相比之下，捕捉點法隻適用於使用該技術拍攝的圖像。

美國國防部國防高級研究計劃署（DARPA）負責媒體取證項目的Matt Turek說，這兩種策略都是解決deepfakes問題的必要手段。

“我認為沒有一種單一的算法和技術能解決這一問題，可能需要一個整體的方案，”他說。

AI換臉或引起軍事衝突和市場動蕩

加州大學伯克利分校的計算機科學教授Hany Farid表示，隨著用於製造AI換臉視頻和圖像的技術的進步，其正變得越來越難被發現。他在TruEpic公司擁有股權，其媒體取證研究由DARPA資助。

Hany Farid說，製造deepfakes的人一直在不斷地適應各種檢測技術。他說，有些人將兩種不同的計算機系統工作結合起來，其中一種改變了圖像，而另一種則試圖確定是否可以將其與真實內容區分開來。

deepfakes的危險性很大，Hany Farid說，在極端情況下，一個deepfakes視頻或圖像可能會引發軍事衝突或其他現實生活中的動蕩。他援引一個可能的情況稱：“一個貝佐斯秘密表示亞馬遜利潤下降的假視頻可能會導致大規模的股票操縱。”

Hany Farid表示，令人擔憂的是，社交媒體公司並沒有采取更多措施來打擊deepfakes，特別是在俄羅斯乾預2016年總統大選之後（俄羅斯已否認）。

“這些平台已被武器化，這些都不是假設的威脅，”他說。

眾議院情報委員會上個月舉行了一次聽證會，重點是應對來自deepfakes的威脅。國會議員和專家建議，應該讓社交媒體公司對在其平台上傳播的內容負責，並在無法驗證的視頻上貼上警告標簽。

祖克柏視頻被篡改。

上個月，Facebook首席執行官馬克•祖克柏的一段被篡改過的視頻浮出水面，在視頻中他對該公司的用戶數據隱私提出了質疑。此前，Facebook拒絕刪除眾議院議長Nancy Pelosi的一段被篡改的視頻，在視頻中她像是在說醉酒後的話且含糊其辭。

在這些事件發生後，祖克柏上個月在Aspen Ideas Festival上向觀眾講述了Facebook正在考慮制定應對deepfakes的政策。

他說：“deepfakes與傳統的假消息不同，就像垃圾郵件不同於傳統的假信息，應該區別對待。”

結語：AI換臉，進步與挑戰並存

AI換臉技術deepfakes是一個技術上的進步，對於影視劇製作行業來說有很大的益處，引起了如此大的爭議主要還是源於AI換臉黑產的不斷蔓延。

許多人利用這項技術製作一些涉黃、涉政的視頻或圖片，例如AI換臉色情片和上文提到的眾議院議長的AI換臉視頻，這些黑產的存在擾亂了市場的秩序。

技術本身無罪，但是如何使用這項技術卻是需要加以限制的，保證技術不濫用、設立合理的法律法規是規範市場、促進技術發展的最有效方法。

文章來源：Wall Street Journal