《我這樣的機器》：機器人世界裡人的困境

在今年上海書展期間，英國作家伊恩•麥克尤恩的科幻人工智能題材小說《我這樣的機器》由上海譯文出版社首推簡體中文版。

“機器人”這個問題在麥克尤恩的腦海裡可謂縈繞已久。兩年多以前他來中國，這一路隨身帶著的書稿就是《我這樣的機器》。他和譯者黃昱寧說，初稿已經寫完了，但要放一放，在來中國的路上想一想，等回到英國再修改一遍。在發表演講或接受採訪時，麥克尤恩也反覆提到這部書稿，甚至說到《贖罪》剛開始的設定也是有機器人的。

8月16日，作家小白，作家黃昱寧與上海紐約大學教授、亞馬遜上海人工智能研究院院長張崢做客上海朵雲書院旗艦店，為讀者獻上一場文科生與理科生有關機器人，有關《我這樣的機器》，有關人類的對話。

活動現場

小說設想了一種道德至上的機器人

在小說裡，32歲的倫敦人查理愛上了樓上的鄰居米蘭達。查理不知道如何向米蘭達表達感情，用繼承的遺產買了一款新型人形機器人“亞當”，並希望這個機器人能成為某種聯結象徵。查理把“亞當”領回家後，可以對還是出廠設置的“亞當”進行各種個性化設置。查理完成了一半，另一半讓米蘭達勾選。兩人就像同時收養了一個寵物，並順理成章地進入了下一感情階段。

張崢非常喜歡“出廠設置”這段。在他看來，機器人的設置與人的進化是很吻合的。“每個人都接受兩份DNA，父親的一個，母親的一個。亞當出廠之後被查理設置，又被米蘭達設置，這像是一個比喻，把一部分父母的DNA注入進去。我覺得麥克尤恩是一個非常熱愛人類的人，他對這個本質抓得非常準確。某種意義上是一種致敬，非常有儀式感。”

小白稱，牛津哲學家尼克·博斯特羅姆（Nick Bostrom）專門研究機器人力學。在一本《超級智能》裡，尼克專門有兩章談價值觀植入、價值觀加載的問題。“一個機器人造好了，它的學習能力比你強多了。你讓它隨便學習，可能發展出終結者那樣的機器，人類的生存風險就出現了。所以你必須在學習能力之外也給機器人加載價值觀。”

怎麽加載呢？在這部小說裡，麥克尤恩設想了一種道德至上的智能機器。比如亞當幫查理輕鬆操盤做投資，但卻沒有為查理賺回世界上所有的錢，因為它在決策中考慮了過量財富顯然會帶來身心兩方面的危險，尤其是道德損害。

“到最後，查理、米蘭達給亞當輸入的東西和亞當最初被輸入的價值觀有了衝突。亞當既不聽米蘭達的，也不聽查理的，因為它有更大的倫理目標和價值觀，它最後做出來的事跟兩個用戶的意願都不一樣。”小白說，小說最後造成衝突的點在這裡。

麥克尤恩

小說的背景設定，融合了過去、現實與未來

在時間上，《我這樣的機器》故事發生在1982年，在那個平行世界的英國倫敦：彼時人工智能研究已經遠遠超過了我們當前的發展水準。在撒切爾夫人的領導下，英國在馬島戰爭中落敗，舉國嘩然之際托尼·本恩當選為英國首相。“人工智能之父”圖靈也沒有自殺，麥克尤恩給了圖靈他應得的生命，而非受到審判、監禁、自殺。圖靈得享高壽，活在世人的尊崇之中，他的作品創造了技術奇跡……

“1982年是一個過去的年代。他把一個在技術上應該發生在未來的故事設定在過去，所以我們打開這本故事會覺得非常奇怪，因為它裡面有些東西你是熟悉的，是屬於過去的，但是關於人工智能這方面又是完全超前的，不僅超那個時代的前，也超我們現在的前。”黃昱寧稱，這是一個“很奇怪”的設定。

小白表示，他在谷歌圖書詞頻上檢索“Robot”（機器人）和“AI”（人工智能），看到這兩個詞在1980年代初異軍突起，在整個1980年代形成一個高峰，到1990年代反而漸漸下落。最令人難忘的機器人電影就是此刻拍攝的——1984年上映的《終結者》。

再反過來想，麥克尤恩在1980年代剛進入倫敦生活，出版了幾本小說，開始創作劇本，與同道友好交往。於是，“智能仿真機器人”這樣的熱門話題不可避免地出現在他的日常生活中。

小白說，或許也正因為這樣，麥克尤恩把《我這樣的機器》的時代背景設定在了1980年代——機器人、人工智能在他腦子裡最初出現的年代。“我覺得這部小說帶有他對自己的反思，對人類社會的反思，通過一個機器人的故事影射他的這一段看法。從這個角度來看，把它理解成某種作家對自己往昔記憶的追溯、某種秘密的‘自傳體’，也不為過。”

小說最想表達的，還是人的困境

在小白看來，《我這樣的機器》有兩個特別精彩的地方，一是米蘭達跟亞當上床，給查理戴了綠帽，二是當查理試圖關掉亞當的電源，亞當阻止了他，而且把他的腕骨捏碎了。

“關掉電源”這一點引起了大家有關機器人自我意識的激烈探討。在小說裡，那一批機器人在自我學習後有十一位設法取消了開關，也有機器人選擇了自殺。

黃昱寧想，無論是“跟人對著乾，不讓人關閉我”，還是“在人不想關閉我的時候，我自己就關閉了自己”，其實都是機器人自我意識的表現。在小說的最後，麥克尤恩以圖靈之口說：“它們（指機器人）不理解我們，因為我們不理解自己。它們的學習程序無法處理我們，如果我們自己都不理解自己的大腦，我們怎麽能設計它們的大腦？還指望它們能跟我們一起幸福呢？”

因此說到底，麥克尤恩在這部小說裡最關心的還是人本身，最想表達的還是人的困境。

小白深以為然：“麥克尤恩這部小說確實是寫人的事。只是說在寫法上他把機器人這個條件放進了人類社會，放進了1980年代，但這批機器人身上發生的事情，都是我們人類自己的事情。出廠設定代表了人類所有最美好的期望，可就算是人類自己，也沒有一個能做到。因為那些規則條款，根本經不起社會人群的人際摩擦。就像麥克尤恩小說中幾乎所有人物一樣，天性良善，卻讓一些細微的摩擦衝突愈演愈烈，直至不可收拾。小說中那些亞當夏娃們再一次證明了麥克尤恩的觀點。它們很快就陷入意識崩潰，無法在人世生存，一個接一個自殺了。”

張崢也特別提到麥克尤恩在書裡借圖靈之口說的另一段話：“我們創造了一種有智能、有自我意識的機器，並將其推入我們這個不完美的世界。這種智能總體上是根據理性的原則來設計的，對他人溫和友善，所以很快就會置身於紛至遝來的矛盾之中。我們自己與矛盾相伴，那清單長得都列不完。無數人死於我們已經知道如何治療的疾病。無數人在物資充足的地方過著貧窮的生活。我們知道這是唯一的家園，卻日複一日破壞著生物圈。我們知道核武器的結果是什麽，卻以核武器相互威脅。我們愛著生命，卻聽憑物種大規模滅絕。如此種種，還有種族屠殺、折磨、奴役、家庭凶殺、虐待兒童、校園槍擊、強姦以及每日發生的無數罪行。我們生活中充滿著這樣的折磨，卻毫不妨礙我們找到幸福，甚至愛。人造的心智可沒有這麽堅強……”

“《我這樣的機器》好的地方在於它沒有給你答案。假如我們把這本書看作《聖經》或者某一種指南，我覺得它是對英國文明的祭奠，立一塊碑。”張崢如是說。