每日最新頭條.有趣資訊

Snapchat也推出換臉功能,但監管仍是紅線

Snapchat一直想打造基於AI技術的“爆款”應用。

據TechCrunch報導,Snapchat正準備推出 “換臉”功能Cameo,目前該功能還在內測階段,法國為其首個測試點。

新功能操作起來非常簡單,用戶只需要上傳個人照片,選擇性別,剩下的事情交給Snapchat即可。通過AI技術,Snapchat可以創建不同的面部反應,替換視頻中人物的面孔,生成GIF或視頻。聽起來是不是和前不久爆紅的Zao一模一樣?

圖源:TechCrunch

不過Snapchat這一功能,無論是國內還是國內,都有相仿者。

早在2017年,俄羅斯應用團隊就推出了基於Deepfake技術的應用軟體 “FaceApp”,它可以修改照片的面部表情、改變性別和年齡,該應用發布後僅兩周就獲得了超過一百萬的下載量。

陌陌前不久推出的Zao,其功能幾乎與Cameo一模一樣。雖因隱私問題被火速下架,但據陌陌創始人、CEO唐岩透露,陌陌不打算放棄這個項目。而據TechCrunch報導,Cameo可能會被指控抄襲Zao。

通過AI技術不斷疊加新功能,Snapchat延續了近年來一貫的產品開發邏輯。包括“嬰兒臉”( baby face)、 “老年臉”( old age)以及兩者的強化版本 “時間機器”( time machine)幾乎都與AI技術相關,後者可以模擬一個人在人生各個階段的面貌,並以視頻的形式展現。這些探索讓Snapchat擺脫了用戶流失的困局, 2019年該應用新增用戶超過2000萬。

不過,換臉軟體正處於風口浪尖。

無論是FaceApp 還是Zao都面臨著侵犯用戶隱私的指責,換臉技術的大眾化源頭“Deepfakes社區”也早已被Reddit以傳播色情內容為由封殺。

指責集中在法理和倫理兩方面。換臉技術可能成為黑產工具協助詐騙、色情視頻製作等,即使不以盈利為目、不存在主觀惡意且沒有實現大規模盈利,惡搞視頻也存在侵犯肖像權、版權的問題。

面對這些潛在風險,在國外相關政府部門的敦促下,Twitter、Facebook、亞馬遜谷歌等科技巨頭紛紛加入“打假”隊伍,助力Deepfake 檢測挑戰賽,打造合成語音視頻數據集,用於支持虛假音頻視頻檢測。11月11日,推特正式發布了首個反 Deepfake 策略草案。國內的配套法律機制也正在搭建過程中,11月底,國家網信辦牽頭髮布了國內第一個關於“AI換臉術”的監管措施,旨在打擊AI 技術製作的虛假音視頻的傳播。

Snapchat向TechCrunch表示,一旦在美國上線,Cameo將被內嵌到Snapchat原有功能中。那麽,監管趨嚴下Snapchat要想走得平穩,就不得不制定更完善的保密條款,付出更高的用戶隱私維護成本,花費更多精力打假。

這無疑在考驗Cameo的耐力。此外,用戶心態對Cameo的影響尚不可知。

一方面,用戶的數據安全意識逐步提升,知道上傳照片這一舉動實在將自己的面部數據拱手交給社交平台,這必然會引發部分用戶的抵觸心理。另一觀點認為,就換臉軟體本身而言,Zao、Cameo無謂善惡,甚至可作為 “防騙教育”的一種。

2017 年底,deepfake 首次亮相後出現了很多開源 deepfake 生成方法,最初的deepfake作品創作是有一定的技術門檻的,社交平台推出AI功能相當於高級技術轉民用的階段,擴展了影視製作之外的應用場景,催生了更多的UGC內容。

圖源:TechCrunch

從Cameo的演示視頻可以看出,現下的“換臉”效果破綻百出,不用學編程就能掌握的換臉APP並不能臻於完美。

“不完美”的換臉軟體正好可以釋放部分技術成果,讓公眾意識到“換臉技術”的存在和其強大的造假能力,在面對類似視頻信息的時候,公眾會更警醒。

不管怎麽說,如何提高用戶對應用的信任度,是包括Snapchat在內的一眾社交平台引入AI技術時都應該面對的問題。

(封面圖片來自Pexels)

獲得更多的PTT最新消息
按讚加入粉絲團