每日最新頭條.有趣資訊

AI換臉“ZAO”刷屏,看了霸王條款後你還敢玩嗎?

8月30晚間,一款名為“ZAO”的App刷屏朋友圈。大量用戶使用這款App,上傳自拍照片,將自己“變成”影視片段的主角,並將這些“改頭換面”過的視頻片段,上傳微信朋友圈等社交平台,引發“病毒式”傳播。8月30日晚間,“ZAO”官方微博稱,“這個月花700萬租的伺服器,今晚已經消耗1/3了。明天如果繼續火爆,我們只能做嚴格一些的限制。”8月31日14時,“ZAO”在蘋果應用商店App Store的在免費App的下載排名中已躍居第二。

華為應用市場截圖

直到現在,朋友圈仍瘋狂傳播著“ZAO”合成的小視頻,無數朋友處於自嗨狀態,也沉浸在影視劇的美好片段之中。用自己的臉替代李現、蔡徐坤、章子怡、黃曉明等藝人的臉,成為“霸道總裁”、“公主小妹”和“韓劇男女主角”,然後就走上人生巔峰了?怕沒那麽容易,虛擬終究是虛擬,其的作用只不過是博君一樂罷了,本質還是虛假的。

當然,若這樣的AI換臉,其對現實的影響僅僅是博君一樂,那也沒啥,只要玩的人分得清虛擬與現實即可。但事情其實沒有這麽簡單,用“ZAO”換臉確實一時爽,但爽過之後,你的臉的肖像權很可能就不屬於你自己了,甚至還有可能被非法使用。

比如,犯罪分子可以替你和你家人通話了,你的臉還可能出現在色情視頻之中,甚至還可以代替你進行人臉識別、實名認證,個體的信息便可能透明,生活就會處於極大風險之中。不僅如此,你在朋友圈傳播著的視頻,也可能侵犯著相關明星的肖像權以及相關影視作品的版權。可以說,這背後的隱私安全風險極大,也很有可能衍生犯罪行為,給民眾帶來實質性損失,加劇社會恐慌。

這些隱憂從“ZAO”的霸王條款上就能看出來。“ZAO”的用戶協議顯示:在您上傳及/或發布用戶內容以前,您同意或者確保實際權利人同意授予zao及其關聯公司以及zao用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於可以對用戶內容進行全部或部分的修改與編輯。同時還規定,如果把臉換成自己或其他人的臉,意味著同意或確保肖像權利人同意授予“ZAO”及其關聯公司以上權利。

什麽意思呢?簡單來說,上傳內容之後,這個軟體以及背後的公司可以使用甚至販賣相關內容,而且,如果內容被相關影視作品的所有方告侵權,那承擔責任的也只是用戶。也就是說,用戶可以盡情玩“ZAO”,但用戶不僅要分享內容的使用權,還得自擔風險,這鍋甩的真是漂亮,把“ZAO”自己摘得乾乾淨淨。還有,“ZAO”這種公司從用戶那裡獲取的相關內容,又很容易洩露和被盜,一旦流到社會上,民眾的合法權益將受到極大挑戰。

所以,看了這款軟體的霸王條款後,你還敢玩嗎?其實,真正問題的關鍵不在於霸王條款本身,這些條款即使修正了,很多風險隱患可能既然存在,這源於相關企業沒有做到相關技術的“可控”實踐,真正的板子還是要打在企業身上。

我們不否認,技術本身是無罪的,但對於一家企業而言,引導技術向善,符合倫理道德的要求,則是立身之本,也是社會的底線要求。民眾和社會想從技術那裡獲取的是解放,是幸福,而不是荊棘,是枷鎖,是無休止的困擾和痛苦。我們要看重技術的社會價值,追求“可知”、“可控”、“可用”、“可靠”,而不能被一時的趣味所裹挾,進而迷失在惡的深淵之中,難以脫身。

對於這種看得見的風險和隱患,一定要將其扼殺在搖籃之中。因此,ZAO刷屏之後,相關政府部門也該出手了。在整治規範的同時,全社會還需要進一步思考技術在使用層面的道德倫理問題以及法理問題,相應的制度規範也亟待頒布。

我們要活在一個由人性之善為主導的世界,而絕非一個由冰冷技術主導的世界,一切都應是有規則規範的,而絕非依靠技術可隨意亂為。若不想活在被技術支配的恐懼中,不想讓《黑鏡》的場景在現實中上演,那請個體與社會,主動與無底線,無價值觀的技術實踐絕緣。

紅星新聞簽約作者 默城

編輯 余孟祥

【版權聲明】本作品信息網絡傳播權歸紅星新聞(成都商報社)獨家所有,未經授權,不得轉載。

獲得更多的PTT最新消息
按讚加入粉絲團