機器人犯錯，誰負法律責任？人工智能可以替代法官判案嗎？

人工智能在為人類生活帶來便利的同時，對社會提出了新的挑戰。著名理論物理學家霍金曾說過：“發明AI（人工智能）可能會成為人類歷史上最大的災難，如果管理不善，會思考的機器可能會為（人類）文明劃上句號。”

人工智能的研究、開發、應用涉及社會多個方面，也衝擊著法律與社會倫理，該以何種恰當形式進行合理規範和引導，以便將這些技術真正推向前行並最終服務於全人類？

法律界人士認為，從法律視角考察人工智能發展和應用，關鍵是主體性與歸責方式。主體性，即是否有必要在法律上承認人工智能應用主體（通俗意義的機器人）的法律主體地位；歸責方式，即到底誰該為智能機器人的非人為預期的行為負責。比如利用醫療智能機器人發生醫療事故、自動駕駛造成交通事故、智能交易引發重大失誤等問題，該歸咎於技術故障、操作不當、設計缺陷，還是機器製造者的失誤、主觀故意，甚至是智能機器人的自主意識？法律該如何約束智能機器人的研發、製造與應用？又該如何判定機器人的法律責任？人工智能在未來是否可以替代理性思考者，比如法官？

近年來，上海學者率先對人工智能的相關法律問題開展研究，形成了一批有影響的研究成果。人工智能與法律領域“獨角獸法學精品·人工智能”叢書，涵蓋人工智能、大數據、區塊鏈、算法等與法律交叉領域的最新學術前沿內容。該叢書即將在今年上海書展期間推出第三輯，包括《數據的邊界：隱私與個人數據保護》《馴服算法：數字歧視與算法規製》《人工智能與法律的對話2》三本譯著。

7月9日至11日，世界人工智能大會2020雲端峰會將在上海舉辦，“法治”正是分論壇主題之一。圍繞法治分論壇主題“人工智能的權利義務與法治實踐”，本月，上海人民出版社發起“人工智能與法治”專題月讀書會，以“讓人民在每一個司法案件中都能感受到公平正義”“人工智能、大數據與社會治理”為題的兩場讀書會，7月3日、4日分別舉辦。

如何讓人民群眾在每個司法案件中感受到公平正義？經過三年時間努力，上海政法系統以一套軟體的投入使用回答了這一問題。“上海刑事案件智能輔助辦案系統”（簡稱“206系統”）的誕生，是運用人工智能新技術破解司法難題、推動司法改革的成功實踐，《人工智能與司法現代化》一書記錄了這一推動司法現代化實踐的全過程。

“206系統”依托大數據、雲計算等現代科技手段，充分運用圖文識別（OCR）、自然語言理解（NLP）、智能語音識別、司法實體識別、實體關係分析、司法要素自動抽取等人工智能技術，實現對刑事案件證據標準、證據規則的統一指引和對證據進行校驗、把關、提示、監督。上海市法學會黨組書記、會長，二級大法官崔亞東指出，儘管“206系統”的智能性使其從工具變成了助手，但並不能替代民警辦案、法官判案。人工智能的發展需要法治作為保障，建立人工智能法治體系。目前階段，將這套輔助辦案系統由刑事推廣至民商事、行政領域，在民法典頒布實施的背景下，意義深遠。只有主動擁抱新科技、運用新技術，走好融合發展的道路，才能促進司法文明與公正。

人工智能會給政府治理帶來革命性影響，可稱之為“政府效率革命”。長遠來看，人工智能大量應用會減少行政成本，但短期來看卻未必，新基礎設施的投入使用會造成數據存儲成本和運行成本的增加。華東政法大學人工智能與大數據指數研究院院長高奇琦提出了一個問題：數據是否越多越好？“不僅僅是企業之間，政府各部門間也存在某種意義上的數據競爭。數據集中有利於效率，但太過集中可能會導致權力的濫用；數據分散則會形成一定的平衡，但可能會造成彼此‘扯皮’。”

儘管目前的人工智能尚是一種弱人工智能，但並不意味著沒有治理風險。上海交通大學凱原法學院副教授、上海數據治理與安全產業專業委員會專家何淵分析了人工智能的五大治理風險：隱私保護、數據洩露、倫理問題、數據戰爭和國家能力。消費者在入住酒店時發現“同房同天不同價”，實際上是酒店根據消費者數據形成的用戶畫像，提供了不同價格。這就是涉及數據倫理的典型例子。此外，基於數據的算法推薦會使人們看到的世界變得片面、不完整。

當數據成為一種財富，企業之間、國家之間的數據爭奪戰屢見不鮮。何淵提出，國家數據能力是未來國家不可或缺的治理能力。要避免互聯網公司的數據技術能力替代國家的認證能力，假使互聯網沒有法律的約束，個人隱私將不複存在；若無監管，互聯網公司恐會變成國家無法控制的“巨獸”。