每日最新頭條.有趣資訊

機器人已證獲得了“自我意識”?

圖源:Daniel Picard

利維坦按:與其說利普森教授實驗室中的機器人“獲得了某種自我意識”,倒不如說這些機器人展示了自我意識中除了“源頭“以外的、一系列關於信息輸入與輸出的機制模型。出於實際的研究目的,這樣的模型的確可以稱為某種“自我意識”。在哲學對於自我意識的源頭的討論早已陷入困境的時候,我們可喜地看到:科學家正在通過借用機器人來逆推意識的誕生。

文/John Pavlus

譯/Trion兵

校對/何裡活

原文/www.quantamagazine.org/hod-lipson-is-building-self-aware-robots-20190711

本文基於創作共同協議(BY-NC),由Trion兵在利維坦發布

文章僅為作者觀點,未必代表利維坦立場

“真希望在有生之年我能見到外星人啊!”說這話的人是哥倫比亞大學創新機器實驗室的主任霍德·利普森(Hod Lipson),他還說希望在死前“能見到某種有智能且非人類的東西”。與其等著智慧生命體從天而降,利普森決定自己在實驗室造一個,準確地說,他正在製造具備自我意識的機器。

為了達成目標,利普森必須直面那個模糊不清的概念——意識。但他面對的情況不容樂觀,就連利普森的同事們都對這個概念閉口不談,視為禁忌。“在機器人技術、人工智能技術的領域,人類曾經把意識當作一個禁忌看待,沒有人能夠碰觸這個話題,”利普森坦言,“因為這個概念太曖昧了,沒人知道意識到底是什麽東西。但既然我們要做嚴謹科研,就必須直面這個概念。可惜,據我所知,意識究竟為何物這稱得上是最大的未解之謎,只有生命起源、宇宙起源才能和這樣宏大的謎團相提並論。

想想看吧——感覺是什麽?創造力又是什麽?情緒到底是什麽?如今人類不僅想知道到底什麽是人性,還期望搞清楚如何人工製造出人性。好吧,是時候直面這些問題了,對此我們再也不能畏畏縮縮了。”

霍德·利普森在哥倫比亞大學的創新機器實驗室裡。圖源:Quanta

根據利普森的研究,組成自我意識最重要的一塊基石,就是“自我模擬”(Self-simulation):建立一個身體的虛擬模型,描述身體如何在現實空間內運動,並通過這個模型指導行動。

利普森從2006年年初開始研究人造自我意識,當時他只不過是製造了一個外型邪惡的蛛形機器人,讓這個機器人使用進化算法(Evolutionary Algorithm)自行學會如何在桌面上沿直線前進。(作為提示,除了進化算法以外,利普森還給機器人預裝了一些程序解釋基本物理規則。)

利普森曾經在TED演講中展示了蛛形機器人是如何自己學會爬行的。首先,這些機器人會毫無目的地擺動觸手,通過收集到的信息嘗試建立自身的虛擬模型。上圖:蛛形機器人終於完成了自身建模,並根據這個模型自己模擬出一種爬行動作。圖源:TED

“看這家夥的樣子,距離征服世界還很遙遠。”利普森在展示蛛形機器人行動錄像時這樣說。雖然這種爬行動作看起來既邪惡又蠢笨,但機器人畢竟是完全依靠自身的學習能力邁出了這一小步。圖源:TED

(www.ted.com/talks/hod_lipson_builds_self_aware_robots?language=en#t-8208)

到了2012年,利用現代科技製造人工智能的研究終於掀起一股風潮,卷積神經網絡(Convolutional Neural Networks)算法以及其他深度學習(Deep Learning)算法開始在研究界大放異彩,回憶起2012年,利普森說人工智能領域就像是“改革春風吹滿地”。

2012年,利普森的團隊在過去的蛛形機器人研究基礎上公布了一個開源機器人項目,“蛛怪機器人”(Aracna Robot),如今全世界各地的科研團隊都可以使用這個機器人進行研究。圖源:Quanta

2019年初,利普森的實驗室公布了一台手臂機器人的論文及視頻,通過深度學習算法,這台機器人僅憑自身的運算能力就從無到有搭建出自己的虛擬模型——利普森描述這個過程時說,“這像極了一個還不會說話的嬰兒第一次觀察並認知自己的手。”

當這個手臂機器人對自身位置及形態完全一無所知的時候,它能做的只有長時間進行隨機的擺臂運動,並收集所需的數據。圖源:Columbia Engineering

(engineering.columbia.edu/press-releases/lipson-self-aware-machines)

成功搭建自身虛擬模型之後,這台手臂機器人可以準確地執行兩種不同的任務,其一,從桌面撿起小球並放在杯子裡;其二,在紙上寫下特定的記號——理解、計劃並完成上述任務的過程中,機器人並不會得到任何外界幫助。不僅如此,在本次實驗中,研究員給機器人更換了一節變形的機械臂結構,以此模擬機械臂受到了損傷,而機器人不僅察覺到了這種變化,還更新了自身的虛擬模型,並且仍然能正確完成上述任務。

圖源:Columbia Engineering

圖源:Columbia Engineering

的確,這樣的思考還遠遠稱不上深思熟慮,但是利普森堅信這個手臂機器人已經完成了從應激反應到深度思考的質變,接下來只是量變的問題。

“當你提到機器人的自我意識,人們總覺得你指的是機器人會突然醒過來說:‘你好?我是誰?我在哪?’”利普森說道,“但是自我意識並不存在非黑即白的界限,它可以小到非常瑣碎的念頭,比如‘我的手應該伸到哪個方向去?’其實這與‘我是誰?我在哪?’是同樣的思考,只不過它關注的是更短時間內的問題。”

這次,《量子》(Quanta)雜誌採訪了利普森,我們談到如何界定機器人的自我意識?它們的意識有什麽重要意義?具備自我意識的機器人又會把人類引領到什麽樣的未來?為了閱讀的清晰明了,我們對採訪問答做了刪減加工。

——————

Q:對於意識本質這個宏大的問題,你顯然有著極大興趣,但是你為什麽一定要用機器人來研究意識呢?為什麽沒有選擇哲學家、神經學家的研究方向呢?

A:對於我來說,機器人技術的美妙之處就是它會逼迫你把自己的主觀理解翻譯成程序、算法,把你的思緒代入到機械原理的世界裡。在機器人技術的領域進行研究,你永遠不能避重就輕,也無法使用空洞的形容詞,更不能說什麽“生活就是一張畫布”,對於這種話,不同的人可能有各種各樣的理解。所有這些表達都太過於含混不清,根本無法翻譯給機器。因此,機器人技術會逼著你腳踏實地。

我也想製造出實實在在的東西,而不只是讓研究停留在嘴上。恕我直言,對於意識為何物,哲學家們在過去一千多年之間的研究乏善可陳。這並不是因為這一千多年裡沒有出現卓越的哲學家,也不是因為他們對意識問題興趣淡漠——只不過是因為你不能站在宏觀的高度去研究意識。當然,神經學家已經通過更確定、更量化的研究方式在接近意識的本質。但是,我猜他們最終還是會遇到瓶頸,因為他們仍然在使用一種宏觀的研究視角。

想想看,如果你試圖理解什麽是意識,為什麽要從人類開始研究呢?人類可是最複雜的有意識生物啊!這就好像是從最陡峭的山坡開始登山。我們不妨換個視角,尋找到更簡單的系統,因為它們很可能更容易理解。這就是我現在嘗試做的事情:我們製造出一個只有4個機構自由度(Degree of Freedom of Mechanism)的機器人,相比人類的複雜意識,它明顯更渺小,但是我們也能提出更具體的問題,比如,“我們能不能讓這個機械做出自己的虛擬模型?”(譯注:機構自由度,即為了使機構的位置得以確定,必須給定的獨立的廣義坐標的數目。)

圖源:Quanta

Q:自我意識和自我模擬的能力是同一個概念嗎?

A:應該說一個能夠進行自我模擬的系統,就已經獲得了某種程度的自我意識。至於它自我模擬能達到的程度,無論是其模擬的物理精確度,還是對於自身的認知是短期當下的,還是可預期到未來的——所有不同的實驗結果都可以說明它的自我意識到底處於什麽程度。這個假設就是我們進行研究的基本出發點。

Q:換句話說,你把“自我意識”這樣的抽象概念具象為“自我模擬”,在技術領域這是一個更清晰的標準,代表著一個系統將自身空間狀態轉化為虛擬模型的能力?

A:沒錯,對於自我意識,我提出了一個獨特的定義,並使用這個非常精準的定義進行研究。它可以被計算、被測量、被量化,你甚至可以用電腦計算出這個定義本身存在多大的誤差。也許哲學家會說:“呃,我們可不會這樣理解自我意識。”然後他們會和你展開一些非常模糊不清的討論……

的確,你可以指出我們提出的定義並不是真正的自我意識,但你必須承認這個定義非常實際,易於進行研究,因為我們已經有了一個標準(Benchmark)。這個標準就是以往研究中工程師親手敲一行行代碼,為機器人建立起來自身虛擬模型。而我們希望看到的,不只是人工只能算法學會了搭建自身的虛擬模型,更希望看到人工智能模型和人類做出的模型一樣好,甚至可以超越人類。

這些畫作是由一種已實現量產的人工智能機器人創作的,它們搭載的程序及算法是專門用於繪畫的。圖源:Quanta

Q:為什麽一定要製造有形的機器人呢?難道不能在無形的虛擬程序中研究自我意識嗎?

A:我是一個機器人科學家,製造機器人來研究當然是我的首選。實際上我們期望得到的東西是一個封閉系統(Closed System),其功能就是自行模擬,為了讓這個封閉系統做到這一點,我們必須給它一定輸入,並觀察它的輸出——關鍵在於這個研究過程必須存在於某種界限之內,在這個封閉環境內你才有可能製造出“自我”。而機器人簡直是天生就適合進行這樣的研究,它可以通過感知獲得輸入,也可以輸出行為動作,而且一切都存在於可控範圍內,它可以遭遇一些特定事件,然後對此進行模擬。

這是利普森團隊今年公布的另一個機器人,“灰色粘液”(Gray Goo),這種機器人單個個體擁有感光設備以及小型電機,但是只能進行簡單的收縮運動。圖源:Columbia Engineering

當機器人組成列陣集群,它們通過算法理解了彼此之間的關係,順利建模,並且找到了一種有效的集群移動方式,最終成功朝光源方向運動。圖源:Columbia Engineering

(engineering.columbia.edu/press-releases/hod-lipson-gray-goo)

Q:這些機器人真的是從零開始創造自身模型的嗎?

A:今天我們的研究的確是讓機器人從零開始,看看機器人能走到哪一步,我們也把這樣的初始狀態當作原則問題。但是在早期的研究中,比如那個蛛形機器人,那時候我們還不具備足夠的運算能力。就好像我們必須告訴它:“聽好啦機器人小老弟,你現在根本不知道自己位於什麽地方,也不知道自己的各部分零件都長在哪,不過我現在先告訴你一個我認為正確的物理學法則,F=ma,好啦,現在輪到你上場了。”

Q:在這個過程中人工智能是如何發揮作用的呢?

A:不知道為什麽,人類總是熱衷於通過人工智能讓機器人了解外在的現實世界,然而對於機器人內部到底發生了什麽,人類總是有某種奇怪的敲代碼的熱情,總是堅持親手製作機器人的虛擬模型。因此我們在研究之初就著手於非常瑣碎的細節,當時我們決定,“人類為了讓機器人認知外圍世界已經做了大量軟硬體基礎設施,我們應該利用這些東西讓機器人學習自己的內在世界發生了什麽,而且這次機器人只能依靠自己。”如果要用一句話概括我們的研究,這就是我們在做的事情。

Q:機器人很可能要做1000次隨機的行為,才能收集到足夠多的信息讓深度學習算法搭建自身模型。這個過程就是你所說的機器人就像是一個連話都不會說的嬰兒嗎?

A:沒錯。當你看到機器人胡亂揮舞手臂,它很可能是在觀察機械臂的尖端在哪裡。想象一下你調動手臂肌肉做出擺臂的動作,尋找著自己的手指尖端。對於你來說,這就是你的輸入信號與輸出行為。為了完成這件事,機器人可能要在那裡胡亂擺動30多個小時,當我們確認它已經收集到足夠多的數據,我們才能下班回家。從這一刻開始,就全看深度學習算法能否完成挑戰,製作出自身虛擬模型了。

接下來,我們提高了難度,把機械臂拆開,替換一節有著特殊形變的機械臂,以此模仿機器人受到了破壞,然後再次重複這個實驗。於是我們親眼目睹了“受傷”的機器人在整體模型的基礎上糾正了發生形變的部分。這一次,它已經不需要從零開始製作模型了,雖然它仍然需要在一段時間內看似極其智障地胡亂扭動,但相比第一次實驗,第二次收集數據的階段節省了90%的時間。

圖中紅色部分即替換掉的機械臂結構,長度及彎曲度均有改變。圖源:Columbia Engineering

圖源:Columbia Engineering

然而更重要的是,在機器人開始第二次扭動之前,它首先要察覺到自身出現了問題。能做到這一步有著重大意義,但是它怎麽能察覺到異常呢?當我們人類身體發生了變化,我們會和腦海中的那個虛擬模型比對,我們只要用眼睛一看就能馬上知道自己的手是不是還在原來的位置。或者,你原本預期要移動4厘米,但是突然發現自己移動到了16厘米以外。你可以瞬間得到反饋,同理,機器人也是在一瞬間就發現了異常。接著,它花費了一些時間學著適應這些異常,等等……但是我必須說,單單是發現異常就已經是個重大的進步了。

Q:是不是可以把這種機器人自行模擬出來的自身模型類比成人類大腦的某個腦區?比如某個存儲著身體構造圖的腦區?

A:我就是這麽想的。當然了,這也是為什麽手臂機器人做出的自身模型看起來很粗糙、簡略。畢竟我們的這個小機器人只不過是個能到處揮舞的機械臂,只有4個機構自由度而已。如果我們要使用一個擁有800多個自由度的人形機械做這個實驗,人類今天掌握的人工智能技術還遠遠應付不了如此複雜的計算。

利普森的團隊還曾經做過另一種實驗,首先讓人工智能在一個空間內模擬出1000個方型機器人,這些機器人能做到的只有通過翻轉進行移動。但是一段時間後,畫面右側的深藍色方形機器人開始清理出一片隻屬於自己的區域,右下方還有一團青色方形機器人開始形成集群。不知出於什麽樣的原因,人工智能自動通過自我複製獎勵自己。圖源:TED

在實驗室中,利普森的團隊製造了一種運動能力更強大的立方體機器人,研究員發現,只要他們不斷地向實驗環境內添加小立方體機器人,這些機器人就會不停地相互連接,建造出一個又一個立柱個體,也是通過這種方式進行自我激勵。圖源:TED

(www.ted.com/talks/hod_lipson_builds_self_aware_robots?language=en#t-8208)

Q:如果這真的是一種自我意識,為什麽要賦予機器人這樣的能力呢?這樣做有什麽意義嗎?

A:它最終將讓機器人更具可塑性,的確,你可以親手設計一個機器人,就像我們今天通常所做的那樣。但是這不僅費工費力而且也拖延了人類自己的時間。當這個機器人在現實世界中發生了形變,比如被撞破了,或者掉了個輪子,或者其中一個電機速度下降了,那麽我們原本設計的模型就不再適用。這樣的問題很難被輕鬆解決,因為這不僅僅是在批量生產的機器人身上裝錯了個螺絲釘那麽簡單的問題。

恰恰相反,這樣的問題非常嚴肅關鍵,想象一下無人駕駛汽車吧,如果你願意開這樣的車,就是把自己的身家性命托付給了智能機器人。你希望這些機器人可以探測到危險,並且持續穩定地監測潛在風險。

另一個原因是靈活性。假設某個機器人隻做一項工作,當它進行該任務時,會不斷修正更新自己的模型。如果它突然需要做一項新的工作,比如在另外一個地方安裝螺絲釘,或者新的任務不再是擰螺絲,而是噴鍍防鏽塗層,此時機器人仍然可以使用同一個虛擬模型繼續學習如何完成新的任務。

總體來說,這種學習過程很像人工智能領域的另一種算法,“零次學習”(Zero-shot Learning),它指的是一種人類能進行的深度學習——只要你會爬樹,哪怕是面對一棵陌生環境的陌生樹木,只需盯著樹乾觀察一段時間,人類就可以成功攀爬這棵樹。

相似地,一旦機器人獲得了自我虛擬模型,它就可以進行這種程度的學習:唯一的不同是,你看不到機器人花費數小時在內部模擬推演爬樹的過程。從你的視角觀察,你只會看到一個機器人成功完成了某種任務,然後它停滯不動一段時間,馬上就可以成功完成另一種任務,根本不需要試做或練習。

Q:目前你正在做的是能給自己建模的機器人,而你的目標是製造有自我意識的機器人,或者換個更通俗一點的說法,有思考能力的機器人——你距離這個宏大目標還有多遠?

A:我們還進行了其他幾個科研項目,同樣是研究機器人的自我建模能力,但這次不是搭建外形,而是搭建自身的認知過程。在這兩個方向上我們都在小步前進著,但最終這些小小的步伐會積累成一個飛躍,讓人們相信機器人不僅最終可以獲得人類的認知水準,還能超越我們。

動畫短片集《愛,死亡和機器人》(Love,Death&Robots)中的《齊馬的作品》(Zima Blue)片段。圖源:Tumblr

Q:也就是說,無論是自我模擬身體還是自我模擬心智,你認為這兩個研究方向未來會交匯在一起?

A:是的,我認為這兩種研究其實本質是一樣的,這是我們目前的假設,對於這些研究的未來我們也在拭目以待。

***贈書***

《祖先的故事》

逆向追溯生命起源的恢弘史詩

見證40億年人類進化的非凡躍遷

本文留言點讚數最高的前5名讀者

(截至明天中午12點前,限微信公眾號平台)

後台留言自己的聯繫方式

(用戶名+地址+手機號)

我們將送出《祖先的故事》一書給到5位

沒趕上的,只能自掏腰包了

往期文章:

“利維坦”(微信號liweitan2014

微博:利維坦行星

神經基礎研究、腦科學、哲學……亂七八糟的什麽都有。反清新,反心靈雞湯,反一般二逼文藝,反基礎,反本質。

獲得更多的PTT最新消息
按讚加入粉絲團