每日最新頭條.有趣資訊

大數據時代的人工智能,並不是“真正的人工智能”?

“有些心理學研究表明,人就是有因果模式

(pattern)

的,人是從因果模式進化而來的。我們該如何想象讓機器去進化出這些東西?所以侯世達很懷疑現在的人工智能。雖然如今人工智能很火,而且在社會上應用得很廣泛,但我想說,那種應用不是真正意義上的人工智能,而是大數據應用的一些方式。在我看來,‘人工智能’這個名字名不副實。侯世達想要做‘真正的人工智能’,因此他必須自覺地與現在做人工智能的人保持距離。這是因為他們對自我的理解、對人的理解是非常不一樣。人不是一個算法,這是侯世達一個很核心的觀點。” 梅劍華說。

自我是不是一種幻覺?自由意志存在不存在?意識是什麽?如果人只是一個純粹物理性的存在,那所有的道德、情感、倫理和美該如何解釋?想要做出侯世達眼裡“真正的人工智能”,即一個跟人類一樣的人工智能,就必須要解釋以上的難題。在“人工智能威脅論”甚囂塵上的今天,這種反思顯得非常必要。我們在設計人工智能的過程中,也是一個不斷發現和認清自我的過程。

1月6日,曾寫過 “神書”《哥德爾、埃舍爾、巴赫——集異璧之大成》的作者侯世達的新書《我是個怪圈》,在中信書店芳草地店舉行了新書發布會。在會上,首都師范大學哲學系教授梅劍華、果殼網的聯合創始人小莊和中科創南的CTO、高級副總裁鄒鵬程一起談了談作者侯世達、人工智能與生命和人類意識的秘密。

《我是個怪圈》,作者:侯世達,譯者:修佳明,中信出版集團 | 湖岸,2019年1月

“現在的人工智能走在一個錯誤的路線上”

梅劍華認為,侯世達不能算一個嚴格意義上的哲學家,但是他的著作在哲學家中激起了強烈的反響。他的作品融匯了科學和哲學。他經常談到哥德爾定理。假如要簡單地用一句話去概述什麽叫哥德爾定理,那就是“可證的不完全,完全的不可證”,即如果一個系統是可證的話,那麽這個系統就不是完全的,肯定有漏掉的真理不能被定理表述出來;反過來說,如果這個系統是完全的,那麽這裡面起碼有一個真理我們是證明不了的。

在梅劍華看來,這就是侯世達遠離當下的人工智能研究的原因。侯世達認為,我們現在談論的人工智能和“真正的人工智能”有很大區別。人可以發現一個形式系統裡面不能證的東西,然後可以判定這個系統是不完全的,但是電腦卻發現不了。侯世達認為,現在的人工智能走在一個錯誤的路線上。

侯世達

所以,侯世達並不是一個人工智能研究者,而是一個認知科學家。他在漫長的研究中發現,大家現在做的人工智能,不論是機器學習還是深度學習,都是數據整合,在根本就是算法。而我們的大腦是不能被算法所窮盡的。不能被窮盡的東西有很多。比如說,我們的意識,我們的感受,都不能被窮盡。說得更根本一點,算法連我們的因果評判能力都不能窮盡,連再弱的意識都不行。這樣如何讓機器學習做因果推斷?這是不可能的。但小孩就能很快學會。比如說,小孩偶然間碰到火會“燙”,那下次他自然而然就不會去碰火。這是因為人有因果模式,並不是算法。

自我是一個幻覺?

那麽,侯世達是如何理解意識和人的呢?我們通常認為人有兩個部分——身體和心靈,或者更古老的說法叫靈魂。我們稱之為身心二元論。這個立場也是哲學界的主流立場,無論是中國古代還是西方都有這種兩分法,比如說,我們的靈魂最終會升向天空,或者是靈魂轉世。但是,如果我們接受科學訓練,或去讀一些當代自然主義的作品,或當代的心理學、神經科學的作品,我們可能會得到一個相反的觀念:人就是一個物理的存在,一個功能體,除此之外什麽都不是。你所有的道德、情感、倫理、美都是源自這個東西,沒有一個獨立的心靈去為它承擔解釋。

當然,知道這個真相是很殘酷的,所以很多人要守護我們的心靈,給人類留下最後的空間。梅劍華提到,昨天下午他剛在中國人民大學就這個問題爭論過一次,他系裡的同事葉峰老師是一個很強硬的物理主義者,和侯世達的觀點非常一致。他說這個世界上唯一存在的就只是物理系統,其他所有東西都是派生的。“實質上成為一個物理主義者,或者是一個沒有自我感覺的人的日常生活是非常平靜的。葉峰老師就徹底無我,他把他所有關於項目的經費全都捐給我們去做很多學術活動了。他真的永遠沒有情緒,只有理性。”梅劍華調侃道。

所以,按照侯世達和葉峰的理解,自我是一個幻覺,實際上沒有大家所認為的自我。這個觀點其實比較像佛教,佛教最後也是要去掉“我執”。所以,當代心理學、心靈哲學和印度哲學,佛教有很多接軌的地方。很多人會討厭這種說法,假若自我是一種幻覺,人實際上是沒有自由意志的,這聽起來很難受。但這就是哲學家的“求真強迫症”,他們想要向世界揭示這樣的真相。

《哥德爾、艾舍爾、巴赫——集異璧之大成》,作者:侯世達,譯者:嚴勇、劉皓明、莫大偉,出版社:商務印書館,1997年5月

如果說自我是一個幻覺,那麽活著的意義何處安放?如果說自我是一個幻覺,那我們的道德、倫理從哪裡來呢?我們除了大腦裡幾億個神經元的活動之外,實際上沒有更多的東西,那麽我們的選擇和決定不就可能被預測和把握了?

梅劍華認為,可能有很多人因此會認為,自我是我們不能放棄的最後一個精神領地。但事實上,自我實際上是我們自己建構起來的幻覺,我們當然可以去把玩這種幻覺,只是這種幻覺對我們的生存來說有好多用處。

但梅劍華要補充的是,“自我是一種幻覺”絕不是心靈哲學的主流。實際上,有很多觀點是反對它的。其中侯世達的學生大衛·查爾默斯就堅定地反對這種觀點。他是一個反物理主義者,他要為意識和感受留一個余地。他不認為我們的心靈或所有的意識必須依附在物理上,因為我們並沒有“最終的科學”。神經科學、大腦科學,遠遠沒有到我們能夠搞清這個問題的地步。

其次,查爾默斯為自己說法提供了一個論證,這個論證就是所謂的“僵屍實驗”。我們通常會認為我們的心靈和物理之間是沒有隔閡的,它們的關聯是本質的、必然的,永遠拆散不了的。但我們可以設想,完全可能存在著一些“哲學僵屍”,它和人類在外形和行為上一模一樣,我們可以通過給它植入芯片來植入記憶。但是,這樣的僵屍會有“內在層面”嗎?比如說,我們現在在說話,我們能感覺到自己坐在這說話,因為我們有一個“內在層面”,可是僵屍沒有。若是這種僵屍可能存在的話,那麽這就表明心靈層面和物理層面是可以互相分離的,這也就表明,侯世達和葉峰等人都是錯的。這就是查爾默斯的觀點。

在理解心靈的問題上,還存在著很多截然不同的立場。比如“泛心論”。什麽叫“泛心論”?有些人會認為天地萬物都有“心”。他們認為,從人到植物,從低級動物到高級動物,心是一種程度,並不是說“有心”或“沒心”,而是它們有百分之多少的“心”。

還有一種觀點更簡單,我們稱之為“唯心論”。從極端“唯心論”到“泛心論”到身心二元論到物理主義,我們會發現關於心靈的看法很多。但在當代的討論裡,侯世達和查爾默斯所代表的兩派是比較主流的看法。

只有把人類大腦的圖景畫出來,我們才能去建立類人的人工智能

梅劍華一直強調算法是有問題的,不完備的,但小莊認為,我們除算法也別無選擇。我們確實沒有完美地理解“我”是從哪裡產生的,或意識是如何建立的。我們要認清自我是一個很漫長的過程。這當中很多觀點和想法,都是這個大廈建設當中的某個部分,或是某個形成關鍵突破很重要的部分。

我們該如何理解人類大腦中上千億的神經元?如果我們能把這樣一幅圖景畫出來,我們才能去建立類人的人工智能。但這項工作特別難。人類基因組計劃耗費了全世界科學家十年的努力才完成。他們要面對的只是三十億個鹼基對,而研究大腦要面對上千億個神經元,他們的互相連接是指數級的。所以我們需要等待。

但是,像自我是什麽這樣的話題,始終可以被拿出來討論,時代和科技的進步是討論的基礎。像自由意志,自我這樣的話題,從物理的角度被認真的探討應該可以追溯到1943年的《生命是什麽》。雖然這本書沒有什麽新知識,但是它把一些基本的框架都提了出來,包括統計學如何在生命中起作用。為什麽這個世界需要那麽多的原子和粒子才能構成物體,為什麽這麽複雜?其實很好理解。只有在這麽巨大的數量下,統計學才能起作用。如我們所看到的磁體的現象,如果我們放大去看,我們會發現,磁鐵裡並不是所有的原子都按照磁極分布的,在南極的一部分的原子可能是朝北的。但是在整個大的層面上,南極是朝南的,整個磁體才會呈現出這樣的磁性。

《生命是什麽》,作者:埃爾溫·薛定諤,譯者:張卜天,出版社:商務印書館,2014年12月

人的思維會不斷地跳躍,這是人和人工智能最大的區別

鄒鵬程認為,人工智能並沒有那麽複雜,它和計算機一樣只是工具,能放大他的智能,但它不會取代他的大腦。

侯世達認為人類思維中類比是很重要的。鄒鵬程覺得,類比這個詞有點淡,可以換成聯想。因為聯想有許多層次,它的特徵是跳躍的。人的思維不斷地跳躍,是人和人工智能最大的區別,這也是我們不用特別擔心人工智能的原因。

梅劍華也表示讚同。在生活當中,類比論證可能比邏輯論證更重要。比如說,我們如何知道今天的自己和明天的自己是同一個人呢?最早討論這個問題就來自於類比論證: “忒修斯之船”——請想象一下,一艘海上航行的船,其船身的木板逐步被新的木板替換,直至最後被完全替換,那麽現在這艘船還是原來的那艘嗎?這個例子跟侯世達講的 “意識上傳”的例子是類似的:如果把你的所有數據都上傳到雲端,那麽雲端的那個你是不是原來的那個你呢?

梅劍華認為,我們現在經常區分強人工智能和弱人工智能,其實我們根本無法模仿人的意識或情緒。有人認為,強人工智能我們是達不到的,但弱人工智能可以實現,但哥德爾就會說不可能。而Judea Pearl則會說,人跟機器如果有關鍵性區別的話,那就是人有一種因果性推理的能力。因此他曾嘗試為因果推理建立了一個數學模型,但谷歌現在不給他投錢了,這使得這項研究面臨著許多困難。

而除了因果之外,類比也是人理解世界和與人交往的一個基本方式。有時候在禪宗裡面,經常會有所謂的“一句禪”,我們從中悟出些什麽。這裡面就有類比和因果的聯繫,我們的思維在當中進行跳躍。在科學哲學裡面,類比也是一個很重要的話題,甚至在心理學裡面,比如聯想作為類比的一種,被分為影像式的聯想、概念式的聯想或者結構式的聯想,都是很重要的議題。

因此,雖然梅劍華對人工智能的未來是樂觀的,但從理論的層面來看,梅劍華對人工智能是悲觀的。因為哲學家所定義的類人的人工智能是無法實現的:不僅是因為技術原因。即使技術水準達到了,人也會為自己保留一定的特權。不過,梅劍華覺得這種悲觀的態度也無所謂,因為它和我們現在做的人工智能關係不大。

機器沒有意識,是因為它沒有生物基礎,這會不會過於人類中心主義?

梅劍華提到,有一種觀點認為,機器是沒有意識的,因為它沒有生物基礎。從另一方面來想,這樣會不會過於人類中心主義了呢?機器沒有生物基礎,但是它們也有可能用另一種方式在理解著我們。在語言哲學裡,什麽是理解的條件?其中一個條件就是,我要把你所說的話當作真,否則我無法跟你交流。此外,我還需要一個條件,就是“寬容原則”

(the principle of charity)

,即你所說的話不僅要前後一致,還得有所論斷,無論是肯定還是否定,這樣我才能理解你。其實機器也能做到這些。

小孩子學語言,究竟怎麽樣才算是掌握了一門語言呢?這個問題現在依然沒有定論。在語言理解最淺顯的層面來說,人和機器其實沒有什麽差別。哲學家約翰·塞爾有一個非常有名的“中文屋”思想實驗:你一覺醒來發現自己所在的房間裡堆滿了簍子,簍子裡都是中文符號,還有一本使用手冊。你雖然看不懂中文,但可以看懂使用手冊。突然間,有人從門縫遞進來一張字條,上面寫著一個中文符號,你翻看使用手冊時,發現裡面寫道:“當你收到這個中文符號,就把另一個特定的中文符號遞出去。”於是,你就照做了。很快,你就把整本使用手冊都背了下來,不管接到哪個中文符號,都可以很快地把對應的符號再遞出去。這樣一來,雖然你並不懂中文,但你所做的事情和懂中文的人沒有兩樣,因此房間外面的人也會相信你是懂中文的。同樣的,如果你就是一台機器,那麽你就通過了圖靈測試。但是,我們依然會認為,機器確實是不懂中文的。梅劍華認為,這就是人類的“我執”。

哲學家約翰·塞爾

隨著人和人工智能接觸越來越多,人反而會不會變得像人工智能?

現場有觀眾提問,我們都在討論怎麽樣把人工智能做得像人,但隨著人和人工智能接觸得越多,人會不會變得更像人工智能?人類的自我會不會漸漸消失?

鄒鵬程作為工程師,因此對這個問題相對樂觀。他認為,人工智能所暴露出來的問題,最終還是要依靠人去解決,甚至要依靠哲學家,要依靠文明和法律解決。所以他不擔心人會因為人工智能而改變,因為我們不會像機器一樣四處亂學,而會有一個方向性。這是因為人類文明延續下來的倫理。

梅劍華認為,我們會發現,我們待人方式和我們的孩子輩就不太一樣。因為他們更獨立,更願意和機器打交道;機器也開始變得像人,這個鴻溝只會越來越小。1998年,查爾默斯和另外一個認知科學家安迪·克拉克合寫了一篇論文,叫“Extended Mind”

(《延展心靈》)

,裡面說,我們的心靈不是在大腦裡面,我們的心靈延展到環境,其中手機就是延展的一個重要的部分。我們的認知不光靠大腦,還要和環境互動。

而關於我們的自我是否會逐漸消失,梅劍華的想法是不會的。他認為,我們塑造自我的方式只會變得不同。新的時代有新的自我。我們和機器人接觸,會多一種塑造自我的方式。比如說,以後人和機器人有可能談戀愛,這也是一種塑造自我經驗的方式。即使你對機器人的愛不會完全像對人一樣,但梅劍華認為這只是量的變化而不是質的變化。

自我是在不斷流變的,我們很難劃出自我的邊界在哪。我們的手機讓我很有自我感,但沒有了它我們也能活下來;甚至於沒了手或腿我們也能活下來,所以我們很難劃出自我的界限。但是我們有自我感,我們根據這種自我感去籌劃我們的人生。這在任何時代都是一樣的。因此,我們並不會因為人工智能的到來而喪失自我。

作者:新京報記者 徐悅東

編輯:徐悅東 校對:何燕

獲得更多的PTT最新消息
按讚加入粉絲團