人工智能呼喚社會科學家

編者按：本文來自微信公眾號“騰雲”（ID：tenyun700），36氪經授權發布。

“我不認為我是一個社會學家、人文學家，但我認為所有這些關注人工智能和人類社會發展的人一定要更走近一些，多交流一些，一起探索這樣敏感的邊界、敏感的未知。”——李飛飛

2019年初，西北大學的Morgan R. Frank教授聯合其他機構開展了一項有趣的研究，他們用大數據的方式，分析了從上世紀50年代至今與人工智能有關的論文發表和引用數量，試圖搞清楚一個問題：到底是誰在研究人工智能？

該研究至少得出三個結論：

與人工智能相關的研究數量在過去的半個世紀裡持續增長；

人工智能的研究越來越“中心化”了，他們集中在某些特定的機構裡；

社會學科、人文學科的研究者在相關研究中嚴重缺位，論文的發表量和引用量仍處於較低水準。

教授們呼籲，是時候在社會科學家與人工智能之間建立更廣泛的合作了。

在那篇發表於一年前的著名長文《人工智能：革命遠未到來》中，機器學習之父、美國三院院士、被稱為人工智能領域喬丹的Michael I. Jordan也表示了他的擔憂。和李飛飛類似，他們都希望通過廣泛的跨學科合作來打造一個以人為中心的人工智能。

Michael I. Jordan教授

喬丹教授指出，產業的發展將繼續推動人工智能的發展，但學術界的作用不僅在於提供創新性的技術理念，而在於將來自不同領域——計算機和統計學科、社會科學、認知科學和人文科學——的研究人員匯聚起來，扮演連接器的作用。

作為人工智能領域的先驅之一，喬丹教授其實就是早年人工智能領域的跨學科實踐者，他的重要貢獻在於指出了機器學習與統計學之間的聯繫，並推動機器學習界廣泛認識到貝葉斯網絡（又稱信度網絡，是目前不確定知識表達和推理領域最有效的理論模型之一）的重要性。

直到今天，喬丹教授依然經常為統計學家和經濟學家們“抱不平”，他認為人們常常忽略這些領域的專家們對人工智能發展做出的貢獻。

現在，喬丹教授呼籲建立一門“以人類為中心的工程學科”。正如土木工程和化學工程建立在物理、化學等學科的基礎上，這門未來的工程學科需要建立在包括信息、算法、數據、不確定性等思想基礎上。同時，因為它建立在跟人類有關的數據上，所以也要需要社會科學和人文科學的參與。

“你們需要了解一點經濟學、運籌學。我也建議你們學習人文學科：藝術、文化、歷史、社會科學…”在面對清華大學學生的提問時，喬丹教授說，“如果你們隻選計算機系的課的話，我不會要你們來讀我的博士的。”

一、在科技公司工作的社會科學家

人工智能需要社會學者與人文學者的參與。這絕不只是一套政治正確的說辭。

2017年9月，一副截圖引起了俄羅斯網友的熱議。人們發現，對著兩個人工智能助手說同一句話時，竟能得到完全相反的答案。

上圖中，說英語的是谷歌助手，說俄語的是Alisa（由俄羅斯互聯網公司Yandex開發）。當對這兩個人工智能助手說出“我很傷心”的時候，谷歌助手回答，“我真希望自己有雙臂，能給你個擁抱”；Alisa回答，“誰也沒說過活著會輕鬆”。

這一現象至少引申出兩個問題，第一，人類應該如何賦予人工智能“情商”；第二，是否要把人類社會存在的巨大文化差異延續到人工智能身上，如果是，應該怎樣把握這個度？

人類太喜歡和智能助手聊天了。

根據亞馬遜統計，半數用戶和智能助手Alexa的對話都不是功能性的，而是對生活的抱怨、講笑話，以及“討論”和人生意義有關的問題。Siri也面臨同樣的挑戰，因此蘋果設置了“幫助人工智能助手增加情商”的相關崗位。

或許在不久的將來，我們不僅要在不同的硬體設備間做選擇，也需要在不同的助手間做選擇，我們可能會這樣問自己：雖然它們具備相近的“智力”，但誰的“性格”更適合我？

很難想象在上世紀90年代就有科技公司聘請認知心理學家。

24年前，在印第安納大學取得認知心理學博士學位的Mary Czerwinski來到微軟，而她之前的研究都集中在腦科學與心理學領域。

她在領英主頁上這樣描述她的職責：專注於用戶界面設計、信息可視化、情感跟蹤、注意力、多任務處理和意識研究等領域。她所在的小組的主要任務就是幫助提升產品“情商”，以提升人機互動體驗。

而在Nissan位於矽谷的研究中心，文化人類學博士Melissa Cefkin的一部分工作在於提升ProPilot自動駕駛技術和人的協作水準。

首先，是車和人的溝通問題。

“我們需要一種語言，一種盡可能普遍和通用的語言。作為一家面向大眾的汽車生產企業，我們考慮的不僅是日本、美國和歐洲市場，我們需要將各個國家的情況都納入到研究中。”Cefkin說道。

其次，是車與“人的規則”溝通的問題。機器會按規則行事，但人不是。

在理想情況下，每個道路佔用者都會按照規則行事，那麽算法就能發揮作用。但人類有成千上萬種打破規則的場景，這就需要在算法的編譯和執行間設定一個閾值，讓機器可以靈活應對各種突發情況。

“你覺得這是一份臨時性工作嗎？”Cefkin回答說，“恰恰相反！”她認為，即使有一天自動駕駛汽車不再需要人“教”，汽車對於人類的“不可傷害性”也將伴隨始終——只要人的生命處於比汽車更重要的位置。

二、大學裡的「人工智能特區」

如果說，現在的人工智能行業是向社會科學家發出熱情邀請，那麽，未來的人工智能將拒絕那些“不能跨界”的人。

為此，兩所世界頂尖高校開辟了“特區”。

今年3 月 18 日，李飛飛主導建立的史丹佛以人為本人工智能研究院（Stanford Institute for Human-Centered Artificial Intelligence，簡稱HAI）正式成立。

與其說這個研究院的成立是要應對人工智能可能帶來的社會問題，倒不如說，他們是在用“重構下一代人工智能教育”的方式更高效的滿足社會需求。如果把HAI看作一個產品，其中的每一位社會學家、心理學家、哲學家和人工智能科學家都是產品經理，他們需要解決的用戶需求，就是讓人工智能在解決重大社會問題時（李飛飛特別提到了人工智能在急診室中的應用）扮演更重要的角色。

HAI的另一個關鍵詞就是交叉協作——它天生就是為協作而生的。

該學院已經聚集了200多位各領域專家，還向史丹佛大學的7所學院，大約 55 個跨學科研究小組提供支持。同時，它也和大量科技公司、社會組織保持緊密合作。

HAI學院的兩位負責人John Etchemendy和李飛飛/圖片來源：史丹佛大學官網

李飛飛表示，“它的目標是成為一個全球對話中心，讓每一個學科都能應對人工智能的挑戰。”而從HAI的身上，我們幾乎已經能看到人工智能對教育模式、機構間組織和協作形態帶來的變化。

麻省理工學院（MIT）也加入到打造“特區”的行列裡。

去年10 月 15 日，MIT在官網宣布了一項 10 億美元的投資項目，包括創立一所新的學院。這是當時美國學術機構對計算和人工智能領域的最大一筆投資。

這個新學院被命名為MIT Stephen A. Schwarzman計算學院，其目標是 “培育未來的雙語者” 。

什麽是未來的雙語者？

麻省理工學院校長L. Rafael Reif解釋說，雙語者的定義是身在生物學、化學、政治學、歷史學和語言學等領域，但同樣精通現代計算技術的人，他們要能夠利用計算機和人工智能技術來推進他們的學科，並能夠批判性地思考他們的工作對人類的影響，“為了培養雙語者，我們必須有個新架構”。

MIT教務長Martin Schmidt說，新學院不是一個孤島，而將成為連接整個MIT的組織。重新定位MIT，將計算和人工智能的力量賦予MIT所有研究領域，使計算和人工智能的未來能被其他學科所塑造也是新學院的使命之一。

自稱為有限盈利（capped-profit）機構的OpenAI也正在聘請社會科學家。

他們在最近發表的文章《人工智能安全需要社會科學家》（AI Safety Needs Social Scientists）中提到：人工智能安全性研究需要社會科學家的參與，以確保人工智能的對比算法（alignment algorithms）在涉及真人參與的情況下能夠成功，“將人工智能系統與人類價值觀恰當契合，需要處理大量與人類心理相關的理性、情感、偏見的不確定性”。

除此之外，最近幾年，哈佛大學的計算與社會研究中心（Center for Research on Computation and Society）及伯克曼克萊爾互聯網與社會中心（Berkman Klein Center for Internet & Society）等學術機構也在舉辦跨學科工作坊和會議。

喬丹教授一直在強調“不確定性”的概念。

在他看來，人們對機器學習存在的不確定性認識不足。“他們簡單地假定，當數據足夠大、標簽足夠多的時候，不確定性會逐漸消失，系統給出的就是正確答案”，但是世界上不可衡量的因素太多了，有眾多問題需要在存在巨大不確定性的情況下得到解答。這也是跨學科合作的重要意義。

而人類也在面臨由人工智能帶來的巨大的對未來的不確定性。

幸運的是，人類選擇了一個相對確定的方式：協作。當我們越來越多的聽到，人與人、機構與機構、機構與公司間的協作在愈加頻繁的發生，我們有理由期待世界未來的樣子。

參考資料：

【1】The evolution of citation graphs in artificial intelligence research/Morgan R. Frank,Dashun Wang,Manuel Cebrian,Iyad Rahwan

【2】Artificial Intelligence — The Revolution Hasn’t Happened Yet/Michael I. Jordan

【3】Will Artificial Intelligence  enhance or hack humanity?/Wired

【4】The quantified heart/aeon

【5】麻省理工學院將建 AI 學院，他們打算投資 10 億美元/好奇心日報

【6】Why AI needs social workers and “non-tech” folks/Desmond U.Patton

【7】AI Safety Needs Social Scientists/openai.com

【8】專訪Michael Jordan：AI的分布式決策與不確定性/機器之心