每日最新頭條.有趣資訊

【書評】《極簡人工智能》:霍金離世,但人類對AI的探索永無止境

【書評】《極簡人工智能》:霍金離世,但人類對AI的探索永無止境

作者:理查德·溫(Richard Urwin),英國著名人工智能工程師,AI領域老江湖。他熱衷於角色扮演類遊戲、科幻小說和登山旅行。1975年他開發了第一個人工智能程式,此後對該領域跟蹤研究40多年的時間。

出版機構:電子工業出版社

出版時間:2018年3月

今日,英國著名物理學家史蒂芬·霍金去世,享年76歲。霍金家人發表聲明,稱他的勇氣與堅持鼓舞了全世界。

巨星隕落,舉世哀悼。

生命最後幾年,霍金將大量的精力投入到對人工智能的關注中,他一再指出,人工智能科技在初級發展階段的確為人類生活帶來便利,但是,機器將可能以不斷加快的速度重新設計自己。而人類則受製於生物進化速度,無法與其競爭,最終被超越。科學界把這種人工智能超越人類智慧的轉折點命名為“奇點”。

事實上,美國Space X首席執行官、大名鼎鼎的“鋼鐵俠”原型設計者埃隆·馬斯克,微軟創始人兼慈善家比爾·蓋茨,也都警告過要注意人工智能的“危害”。麻省理工學院教授、科學家、谷歌、IBM和微軟等企業員工及與人工智能領域有關的投資者,也聯名發出公開信,表達同樣的憂慮。

如果對人工智能研究足夠深入的話就一定會遭遇“奇點理論”(Singularity)這一概念。據說,這一末日般的事件即將來臨,整個人類種族將被徹底消滅,我們都將在前所未有的巨大力量下變成半機器人的存在。這也被稱為“呆子們的狂歡”(Rapture ofthe Nerds),類似於某些基督教團體相信在耶穌第二次降臨前會有一場狂歡,所有正義的人們都將瞬間從地球上消失,凡體升華為不朽的身體與基督同在。

如果人工智能變成威脅

從人們關注機器開始,奇點理論就一直以假說的形式存在。現代意義上的奇點理論指機器智能有朝一日將超越人類智能。那時,機器將能夠進行自我編程而變得更加智能,它們也將持續設計更加先進的機器,直到將人類遠遠甩開,人類對於它們而言就如我們眼中的螻蟻一般渺小。

更溫和的解釋就是人類與機器的聯繫越發緊密到無法區分,又或是能力提升到難以想象的強大。更具毀滅性的境地就是雖然我們沒有能夠設計其他機器人的機器人,但有機器人能不斷完善自身程式來優化某些指定任務的操作。假設這是一個機器人女傭,有一天,當它已經優化到比人類更智能時,它可能會覺得讓所有麻煩的人類消失,整個屋子就會變得更乾淨。由於太過聰明,它可以在不被人察覺的情況下偷偷摸摸完成一切。

還有一種解讀就是機器人開始擁有自我意識,出於種種原因向人類宣戰。

單個人工智能有多大可能攻擊人類

人工智能按照預設程式不斷完善自身能力,但當它發展到一定階段時就可能帶來巨大的災難。假設人們為其設定的任務是製作回形針,因而它的目標就是盡可能快地做出盡可能多的回形針。一開始的時候,它會優化自身機制,更高效地進行編程,但慢慢它就會意識到這個世界上別的地方還有許多機器並沒有在做回形針。如果這種意識足夠強大,它也許會操控這些機器來幫助它一起完成任務,這就已經夠令人頭疼了,然而它還有可能覺得試圖阻止它的人類實在太礙事,需要及時處理掉。

在這個世界末日般的故事裡,人工智能已經變得太過聰明,在思想上甚至超越了試圖阻止它的人類。它們成為了完美的行騙者。在其操控者意識到出錯之前,它們就已經顛覆了遺傳學實驗室,創造了致命病毒,足以消滅整個人類種族。沒有了人類的干涉,它們開始肆意擴張,地球上的所有資源都將被用來製作回形針,甚至還將繼續建造星際飛船企圖橫掃宇宙將更多星球變為製作回形針的工廠。正如其他場景一樣,該事件只有在特定情況下才可能發生。機器必須足夠強大到能承載超級智能,它必須了解如何編出令人信服的謊言,卻又無法認識到人類有能力看出回形針已經太多了。

此外,只有在電腦資源足夠廉價時,我們才會毫無顧忌地利用它們來處理這些瑣碎的問題。如果任務要求高水準智能,在機器開始製作神經毒氣時,操控者就能及時發現。這類場景更可能發生在較小的範圍內。比如,某個軍用機器人可能覺得消滅村莊中所有恐怖分子的最佳手段就是殺光每一個人。

這無疑是個悲劇,也是重大的國際事件,但這並不會造成人類的終結。

奇點理論的可能性就像有意識的機器一樣,是一個虛假資訊問題。我們現在認識的還不夠,無法判斷這對我們來說到底是不是嚴重威脅。然而,在未來的某個時刻,可能是20年後也可能是100年後,機器終將變得與有生命、能思考的存在別無二致。它們至少也會和人類一樣聰明,甚至超越人類。伴隨著每一項新科技的發展,威脅、機遇,以及倫理問題都將一一浮現,但在我們能實實在在討論它們之前,還需要等上很長一段時間。

技術加速

近年來,人工智能研究的進步並不是導致這些憂慮產生的原因。在最近的國防高等研究計劃署挑戰賽(DARPA challenge)中,機器人需要完成駕駛車輛、開門、打開閥門、操作手鑽、拔插電纜、走碎石及爬短台階等一系列操作。人類可以在一分鐘內完成這些,而獲勝的機器人耗時超過40分鐘。儘管奇點理論的支持者指出了所有形式技術的指數型加速,尤其是計算能力。

指數增長曲線圖似乎總是十分可怕的。我們的人生停滯不前,而人工智能圖表後期的增長幾乎扶搖而上。我們正面臨著一個關鍵節點,科技突然以前所未有的速度開始迅猛發展。但是,我們也需要認識到,指數增長圖一直以來都是一樣的。20年前的指數圖與今天的別無二致,我們也無風無浪地度過了。但未來注定會帶來改變。科技不斷進步,我們必須適應這種日新月異的變化速度。我們不可避免將面臨挑戰:

  • 人類被機器甩在身後,就業率可能下滑,某些工作崗位可能朝不保夕但卻對職業技能要求極高。
  • 技術將填補這些缺口,培育新型工人的同時繼續提供那些人們慣常從事的瑣碎工作。
  • 在接下來的幾十年裡,電腦將可能擁有與人腦一般無二的能力。

到那時,或許弱人工智能已經能夠製造出至少接近人類能力的電腦和機器人,這些電腦和機器人也許能夠自主研究人工智能,並逐漸變得比人類更加聰明。儘管這不可能一夜之間實現,甚至永遠也不可能實現。因為智能並不是一個簡單的概念,也許超級大腦做數學題的速度比人類還快,但這並不意味著它們可以成為像人類一樣的演說家或是醫療診斷專家。有些技能仍然需要花費漫長的時間來掌握。

我們窺視著未來的迷霧,一切都無從知曉。有些技術憑空出現,甚至在我們還未察覺的時候,整個生活就已經因此發生了翻天覆地的變化。透過迷霧,我們可以瞥見遙遠的前方那強人工智能技術的影子。幾乎可以肯定,沿著腳下的路一直往前我們終將到達,待到達之時,迎接我們的會是顛覆性的技術突破,但沒有人知道,我們還要走多少彎路,還要走多遠,最終到達時面對的到底是什麽樣的景象。我們有著許許多多的猜想,有烏托邦式的,也有反烏托邦式的,但終究只是猜想而已。

【鈦媒體作者介紹:本文節選自理查德·溫的《極簡人工智能:你一定愛讀的AI通識書》,他是英國著名人工智能工程師,AI領域老江湖。他熱衷於角色扮演類遊戲、科幻小說和登山旅行。1975年他開發了第一個人工智能程式,此後對該領域跟蹤研究40多年的時間。】

《極簡人工智能:你一定愛讀的AI通識書》已經納入鈦媒體Pro版書庫~每位Pro專業用戶一年可以在書庫中任意選擇三本書,由鈦媒體免費贈送哦~點擊鏈接、登錄,進入“前沿書庫”選書:http://www.tmtpost.com/pro

更多人工智能相關好書:http://www.tmtpost.com/3122712.html

創業事項相關好書:http://www.tmtpost.com/2788508.html培養長官力相關好書:http://www.tmtpost.com/2678549.html區塊鏈相關好書:http://www.tmtpost.com/2733670.html

更多精彩內容,關注鈦媒體微信號(ID:taimeiti),或者下載鈦媒體App

獲得更多的PTT最新消息
按讚加入粉絲團