騰訊科技訊 人工智能成為科技行業最火的板塊，有關人工智能的未來應用和潛在危險也引發了科技重量級人物的口水之爭，許多人擔心人工智能未來給人類社會造成巨大威脅和風險。據外媒最新消息，馬斯克旗下的一家人工智能研發公司，已經研發出能夠寫新聞和小說的AI機器人，但是由於擔心技術被濫用，他們暫時不敢公布研究成果。
據國外媒體報導，由埃隆·馬斯克(Elon Musk)支持的非營利性人工智能研究公司OpenAI表示，其名為GPT2的新人工智能模型非常好，但是被惡意使用的風險如此之高，以至於它正在打破向公眾公布全部研究成果的常規慣例，以便有更多時間討論技術突破帶來的各種後果。
GPT2的核心是一個文本生成器。人們向人工智能系統輸入從幾個單詞到整個頁面的任何文本，並要求根據對下一步將發生什麽的預測來編寫接下來的幾個句子。該系統正在突破人們認為可能的極限範圍（無論是在產出的文字品質方面，還是在廣泛的潛在用途方面）。
當用來簡單地生成新的文本時，GPT2能夠寫出與它的風格和主題相匹配的看似合理的段落。它很少顯示出任何與以前的人工智能系統不同的奇怪之處，比如在段落中途忘記寫些什麽，或者破壞長句的語法。
如果向這一人工智能系統輸入喬治·奧威爾(George Orwell)的《一九八四》小說的開場白——“四月份是一個明亮的寒冷的一天，時鐘敲了十三下”，隨後這套系統將會識別出模糊的未來主義基調和小說風格，並繼續寫出以下的句子：“在去西雅圖找新工作的路上，我坐在車裡。我加滿油，把鑰匙放進去，然後就讓它跑路。我只是想象這一天會是什麽樣子。一百年後的2045年，我在中國農村貧困地區的一所學校當老師。我開始教中國歷史和科學史課程。”
如果把英國“衛報”(Guardian)有關英國退歐的報導的前幾段提供給它，它的產出就是可信的報紙新聞文字，比如新聞文章囊括了傑裡米·科爾賓(Jeremy Corbyn)的“引述”，提到愛爾蘭邊境，以及英國首相發言人的回答。
其中一個完全是人工智能撰寫的段落寫道：“特裡莎梅首相的一位發言人被要求澄清這些報導，他說：‘首相已經明確表示，她的意圖是盡快離開歐盟，這將屬於女王上周講話中確認的她的談判授權範圍。’”
從研究的角度來看，GPT2在兩個方面是富有開創性的。OpenAI的研究主管達裡奧·阿莫迪(Dario Amodei)說，其中之一就是它的規模。
與以前最先進的人工智能模型相比，GPT2模型“大12倍，數據集大15倍，範圍更廣”。它是在一個包含大約1000萬篇文章的數據集上進行訓練的，這些文章是通過在社交新聞網站Reddit上投票超過3票的新聞鏈接而選出的。大量的文本數據多達40GB，足以存儲大約35000份《白鯨》小說的全部文字。
GPT2訓練的數據量直接影響到它的品質，它在理解書面文本方面有了更多的知識。這也導致了第二次突破。GPT2比以前的文本模型更通用。通過分析輸入的文本，它可以執行翻譯和摘要等任務，並通過簡單的閱讀理解測試，通常表現得與專門為這些任務構建的其他人工智能系統一樣好或更好。
然而，這種品質也導致OpenAI改變了其推動人工智能向前發展的慣例，並考慮將GPT2技術關在門內，評估惡意用戶可能會對它做些什麽。
“我們需要進行實驗，找出他們能做什麽不能做什麽，”該研究機構的政策負責人傑克·克拉克(Jack Clark)說。“如果你不能預見到一個人工智能模型的所有能力，你就必須督促它看看它能做些什麽。有更多的人比我們更善於思考它可以惡意地做些什麽。”
為了說明這意味著什麽，OpenAI製作了GPT2的一個版本，隻做了一些適度的調整，這些調整可以用來對文字產品產生無限的正面或負面評價。垃圾郵件和假新聞是另外兩個明顯的潛在缺點，這也是人工智能未經過濾的本質。由於它是在互聯網上訓練的，不難鼓勵它產生偏執的文本、陰謀論等等。
據悉，OpenAI的目標是展示未來一兩年內人工智能的主流技術發展。“我有一個術語來形容這件事。來自地獄的自動扶梯，”克拉克說，“它總是使新科技在成本上降低，在價格上降低。你可以用來控制技術的規則已經從根本上改變了。
克拉克說：“我們不是說我們知道在這裡應該做什麽，我們不是在說‘這就是方法’，…，我們正試圖在這裡發展更嚴格的思想。當我們穿越新環境時，我們正在努力修築這條路。”（騰訊科技審校/承曦）
香港九龍灣馬來街興發大廈15樓D室