機器人，到底是士兵，伴侶，還是奴隸？

隨著人工智能和機器人技術的發展，自主性日漸增強的機器已經出現在金融、軍事、電力控制、交通運輸等領域，並且在可展望的未來仍將飛速拓展其應用太空。

原文：《誰的道德？什麽樣的道德？》

作者 |西安交通大學李穎娜

圖片 |網絡

如果說機器獲得和人同等水準的道德後，可能出現的種種困境還只是遠慮，那麽如何讓越來越具有自主性的機器根據符合人類道德標準的決策去行動則是近憂了。《道德機器：如何讓機器人明辨是非》（王小紅譯，北京大學出版社，2017.11）是美國認知科學哲學家科林·艾倫（Colin Allen）和技術倫理專家溫德爾·瓦拉赫（Wendell Wallach）合著的一部機器道德領域的開創性著作，其關注點已經超出了人類如何使用電腦之類的應用倫理學問題，而跨進到該如何建構有道德的機器這一直指實質的問題。

—

《道德機器：如何讓機器人明辨是非》

王小紅譯

北京大學出版社

2017.11

一開篇，作者就介紹了目前具有一定自主性的機器系統所存在的道德盲點，引發讀者對製造道德機器的重視。有道德的機器絕不會自動出現，而是需要人為的設計和乾預。作者關注目前的機器人系統，發現要麽是自主性和道德敏感性都很低的系統，尚處於完全受設計者和使用者控制的“操作性道德”區域內；要麽是自主性高而倫理敏感性低、或自主性低而倫理敏感性高的系統，隻具備有限的“功能性道德”。作者分別描述了它們的局限性，並指出，如何讓具有高度自主性的機器人成為道德主體，即人工道德智能體（AMAs），亦即書名所謂的“道德機器”，這是擺在倫理學家、哲學家、認知科學家和機器人學家面前的難題。

日劇《安堂機器人》中的殺手機器人劇照

本書的主旨意在探討如何建構成功的AMAs。當進入實踐層面，一些複雜的問題仍會浮現出來。AMAs將貫徹誰的道德標準？怎樣的道德程式？作者承認構建AMAs有不同路徑，聚焦於構造滿足外部評價標準的道德機器的實踐目的，探討倫理學家應如何和工程師通力合作，使得道德機器實現道德決策能力。

總括地說，有兩種設計思路，即自上而下進路和自下而上進路。前者指的是設定一套可以轉化為算法的倫理規則，用它來指導設計執行規則的子系統，這樣，AMAs有道德的行動就轉變為遵守規則的問題；後者指的是不預先給定倫理規則，而是創造環境讓AMAs自主地探索學習，當其做出道德上良好的行為，給予積極反饋使之得到強化。當然，兩種進路都存在一些問題。對於前者而言，無論采取功利主義還是道義論所支持的普遍原則，都會遇到具體規則如何與首要原則自洽、難以落實的計算複雜性等問題。採用後者則會面臨當環境變化時如何適應、難以確定AMAs是否會產生出複雜的道德判斷能力等問題。

基於以上分析，作者矚目於未來用聯結主義網絡來開發具有美德的系統，這採用的是兩者混合式的進路，既強調一定的倫理原則的重要性，又具有一定的靈活度拓展行動的範圍。在理論探討以外，本書後面幾章還介紹了設計AMAs的一些近期的具體實踐，如關注道德決策的MedEthEx等軟體系統、具有一定具身認知、社交能力等超理性能力的機器人Leonardo等、基於全局工作太空理論整合理性推理與情感的LIDA模型，這些AMAs的前沿實踐各有一些生動有趣的進展，它們區別於科幻片的未來狂想，展示了道德機器的真實發展水準和趨勢。

在AMAs完全實現的時代，人與機器將如何進行合乎道德的行為互動？作者視其為未來主義的問題而予以擱置，但這還是探討“道德機器”的題中應有之義。對於這個世界上可能發生的無窮個事件和可能存在的無窮種角色來說，“道德的”不是一個非真即假的判斷。僅就作者所初步揭示的，機器道德問題已經有著足夠的複雜性，而且也是對人類道德的巨大拷問。

在機器人那端，作者未充分展開的AMAs實現“誰的道德和什麽道德”就隱含了人類不同意識形態的衝突，機器人會是人類群體衝突的新戰場嗎？而在人類這端，無論將AMAs作為“士兵”、“伴侶”還是“奴隸”，試想，如果機器人展現出足以通過對比道德圖靈測試的道德能力，那麽如何對待它們才是合乎人類道德的呢？將其作為實驗品進行實驗，根據最新的需求對其進行更新，性質上和二戰期間納粹分子囚禁猶太人做實驗並且大批量地處死他們有什麽本質區別嗎？和基礎醫學研究領域用小白鼠做生理和藥理實驗，最終將其作為醫療垃圾處理有沒有本質區別呢？前者現在已經為人唾棄，因為納粹將猶太人視作劣等民族完全是偏見和鬼話。後者現在仍在時時上演，在人類利益面前，如何處理動物倫理問題還遠未達成共識。如果把這種道德優越的機器人作為人一樣來尊重，給予其足夠的自由發展太空，機器人會不會對人類自身的生存和發展形成反噬？

儘管這些還只是一種未來主義式的推演，但已讓人很難在罪感、無辜感和安全感面前保持心理平衡。關注如何教機器人辨別是非的工程實踐，這固然踏實，但本書更重要的價值可能正在於，沿著作者的論證分析，讀者不由得會進行更深入的思考，那些終究無法在工程實踐內部消解的“誰的道德”和“什麽樣的道德”的問題。

文章原載於社會科學報第1611期第8版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。