每日最新頭條.有趣資訊

科學家想用老鼠打假 Deepfake,但這事沒那麽容易

自從 Deepfake 技術面世以來,就一直朝著不可控的方向發展。

更令人擔心的是, Deepfake 技術還在不斷進化。史丹佛等幾所高校此前發布的一項研究甚至能篡改視頻的語句,只要輸入任意文本,就能讓視頻中的演講者說出對應的話,比如將電視台主持人報導的「蘋果股價收盤於 191.45 美元」的數字改為「182.25 美元」。

儘管這兩個詞的發音和口型完全不同,但幾乎看不出修改痕跡。研究者經過調查發現,59.6% 的受試者認為被修改過的視頻是真的,這項技術成功騙過了大部分人的眼睛。

Deepfake 技術讓網絡世界變得更加真假難辨,與此同時不少科學家和機構也開始研發鑒別 Deepfake 的技術,開始了一場貓捉老鼠的遊戲。

據《華爾街日報》報導,本周在拉斯維加斯舉辦的黑帽網絡安全大會上,來自俄勒岡大學的研究人員提出,老鼠等小動物未來或有助於鑒別偽造的視頻和音頻。

圖片來自:The Scientist.

研究人員發現,老鼠在識別自然語音元素方面很有天分,能聽出聲音中的不規則性,比如通過訓練能區分 P、B、T 等不同音素,以及不同元音發聲的區別,從而識別複雜的聲音,並檢測音頻的真實性。

科學家將條件反射來訓練小老鼠,讓老鼠在聽到真實和合成視頻的時候分別跑向不同位置,如果識別正確就給予獎勵,在測試過程中老鼠識別假音頻的準確率達到 75%。

雖然當研究人員在添加一些新的聲音和元音的等變量後,老鼠識別的準確率有所下降,當在經過一段時間的訓練後,還是能夠區分新的語音模式。

該研究項目成員之一,俄勒岡大學研究生 Jonathan Saunders 認為,該技術還可以進一步優化,形成通用版本的 Deepfake 檢測算法,但這需要更深入了解大腦是如何分析和處理聲音的。

儘管老鼠在聽覺研究領域有著很大潛力,但這也不意味著社交平台和視頻網站將來通過飼養大量的老鼠就能夠鑒別 Deepfake 假視頻。研究人員是希望通過弄明白老鼠是如何識別假音頻,從而更好地訓練機器來對抗 Deepfake 。

除了之外,目前很多研究團隊都採用生成式對抗網絡(GAN)來鑒別 Deepfake ,以 AI 對抗 AI。

前不久加州大學伯克利分校和南加州大學的研究團隊就開發了一套AI 鑒別系統,先通過生成式對抗網絡,提取川普、希拉裡和奧巴馬等人的面部、頭部運動特徵,合成假視頻。

隨後再用機器學習分析真假視頻的差異,從而得到每個人的「軟性生物特徵」(soft biometric signature),識別出細微的動作特徵,這種檢測工具識別 Deepfake 視頻的準確率達到 95%,研究人員希望能在未來半年內提升至 99%。

去年美國國防部研究機構DAPRA也研發出一個專門打假 Deepfake 的 AI 工具,抓住了 AI 生成的人臉缺乏眨眼功能的缺陷,通過檢測眼睛狀態判斷視頻的真假,準確率高達 99%。

在原始視頻(上圖)中,在 6 秒內檢測到眨眼動作。而 Deepfake 生成的假視頻(下圖)則沒有眨眼. 圖片來自: UAlbany.edu

遺憾的是,這套工具無法大規模地應用,研究人員正在試圖開發出一款可擴展的平台化工具,能對網絡上大量的視頻進行鑒別。

不過這種利用 AI 對抗 AI 的鑒別方式也存在問題,因為生成式對抗網絡的原理就是讓兩套神經網絡在相互博弈中學習,隨著鑒別技術的提升,假視頻的質量也會進一步提高,兩者永遠處在不斷的對抗當中,誰也無法徹底打敗誰。

同時相比起 Deepfake 技術的研發,鑒別技術的科研力量顯得有點勢單力薄。據DeepTrace 平台統計,,2018 年,全球涉及 GAN 生成圖像和視頻的論文多達 902 篇,而研究如何識別合成圖像和視頻的論文只有 25 篇。

加州大學伯克利分校的計算機科學家 Hany Farid 也指出,目前研究合成視頻和鑒別的人數是 100:1, Farid 認為依靠技術現有的鑒別技術難以阻止 Deepfake 視頻在社交平台上傳播:

解決方法不能只靠技術,還需要媒體專業的報導,以及更好的數字公民、公司和政策。

獲得更多的PTT最新消息
按讚加入粉絲團