人工智能可生成以假亂真的假新聞 未來或存在大量輸出風險

本文由騰訊數位獨家發布

在撰寫令人信服的新聞報導方面，人工智能的能力正在變得越來越強了，這讓它的創造者開始懷疑自己是否應該發布這種技術。

據報導，伊隆·馬斯克的OpenAI已經開發了一種有趣的算法，只需一些隻言片語作為起點，它就能生成任意主題的假新聞，並且讀起來相當令人信服。

實際上，這項算法最初只是被設計成一種通用的語言AI，可以回答問題，總結故事和翻譯文本。但研究人員很快意識到，它還可以被用在更加陰險的目的上，比如大量輸出虛假資訊。

因此，根據MIT Technology Review的報導，該團隊隻計劃向公眾提供這種人工智能的“簡化版本”。

所幸的是，這項技術目前還存在一些不完善的地方。它經常會寫出抄襲、或者只是在表面上看有凝聚力的故事，成功率並不高。但OpenAI項目研究者Jack Clark警告說，開發出一個有能力穩定輸出假新聞的系統可能只需“一到兩年”。而等到那時，想要反駁這些新聞的真實性將需要徹底的事實調查。

這就是核心問題所在。雖然OpenAI會恪守道德準則，不會故意進行假新聞的生成和傳播，但其他組織是否同樣會守規矩就很難說了。

而另一個更大的擔憂是，一個不道德的（或不知情的）公司或敵對政府可能會開發一個強大的人工智能來進行大規模的假新聞傳播。社交網絡在打擊假新聞方面取得了一些成績，但如果有機器大量產生錯誤資訊，他們可能會無力招架。