Hinton最新專訪：別讓AI解釋自己，AI寒冬不會再來

允中 編譯整理

量子位 出品 | 公眾號 QbitAI

今天，《連線》發表了一篇專訪Geoffrey Hinton的長文。

在這次加拿大G7人工智能會議上的訪談裡，Hinton談到了對谷歌軍方合約的“私下”抗議，還提出了對現在AI研究的一些看法，比如：

不要讓AI解釋自己，那簡直是個災難。人類大多數時候都沒法解釋自己。

發展AI需要新型的計算硬體（他指的並不是TPU）。

我們在研究中應該追求“新想法”，不能一味看效果。從長遠來看，一個全新的想法比一個微小的改進更有影響力。

另外，Hinton還說：不，不會再有AI寒冬了。

以下是採訪實錄：

Wired：加拿大總理特魯多在G7大會上說，人工智能帶來了一些道德挑戰，對此需要做更多工作，你怎麽想？

Hinton：我一直很擔心致命自主武器的濫用。我認為，應該有一個類似於日內瓦公約的東西，像禁止化學武器一樣禁止它們。就算不是每個國家都簽署這個公約，實際上它也會起到像道德旗幟一樣的作用。誰沒簽你是能看到的。

Wired：有一封抗議Google為國防部提供無人機影像識別服務的公開信，有4500名你的同事簽了名。你簽了嗎？

Hinton：作為一名Google高管，我認為我不應該公開表達對公司的不滿，所以，我私下表達。我沒有簽公開信，而是找（Google聯合創始人）謝爾蓋·布林談了談。他說他對這個事情也不滿，所以，這不是他們的追求。

Wired：Google決定履行完這份合約，但是不會續簽，還發布了一份AI指導方針，其中就包含了不能把這項技術用於武器。

Hinton：我認為Google的選擇是正確的。各種各樣的東西都需要雲計算，想弄清底線設在哪確實很難。我對Google設定的底線很滿意，那些原則我認為很有道理。

Wired：在日常場景裡，比如在社會服務、醫療等領域用軟體做決策的時候，人工智能也會帶來道德問題。我們應該當心什麽？

Hinton：我的專業領域是讓這個技術管用，不是社會政策。這裡面確實有一點和我的專業技能相關，就是判斷監管者該不該堅持要求你能解釋AI系統的工作原理。我認為那完全是個災難。

在大多數事情上，人類都不能解釋自己的原理。你招人的時候，是基於那些可以量化的東西來做判斷，再加上各種”直覺”。人們根本不知道自己是怎麽做到的。如果你讓人類對自己的決定做出解釋，就相當於逼他們編故事。

神經網絡的問題也一樣。你訓練了一個神經網絡，它學習的是幾十億數字，代表著從訓練數據中提取的知識，輸入一張圖片，它給出正確的決定，比如說這是不是一個行人。但如果你要問“它為什麽這麽想”……如果圖片裡有沒有行人能通過任何簡單的規則來判斷的話，這個問題早就解決了。

Wired：所以，我們怎麽會知道什麽時候能信任這些系統？

Hinton：應該根據表現來管理它們。你可以用實驗來檢驗有沒有偏見。對於無人車，我認為人們現在已經算接受了，就算不知道一輛無人車怎麽做到的，如果它發生的事故比人類司機少，那就是好事。我認為我們要像對人一樣來對待這個問題：看他們表現如何。

https://arxiv.org/abs/1807.04587

Wired：在你上周發表的一篇論文中，提及應該進一步研究大腦中的學習算法。這是為什麽？

Hinton：大腦和現在大多數神經網絡都不一樣。人類大腦有大約100兆個突觸，而人工神經網絡的權重通常要小1萬倍。大腦使用大量的突觸，從很少的樣本中盡可能多的學習。而深度學習則是利用更少的神經元連接，從大量的樣本中進行學習。

我認為大腦並不關注如何把大量知識壓縮成幾個突觸的連接，而是關注如何使用大量的連接，快速的提取知識。

Wired：那應該如何構建更強大的機器學習系統？

Hinton：我們需要轉向另一種電腦。幸運的是，我這裡就有一個。

（Hinton說罷把手伸到包裡，掏出一塊耀眼的大芯片。這個芯片是英國初創公司Graphcore的原型產品，這家公司致力於為機器/深度學習算法開發新型處理器。）

漂亮得不像實力派

大多數用來運行神經網絡的電腦，甚至包括Google的專用硬體，都得使用RAM（來存儲正在使用的程式）。從RAM中獲取神經網絡的權重代價高昂，所以一旦軟體獲得了權重，就會反覆使用很多次。想要改變是一個成本巨大的事情。

而在Graphcore芯片上，權重存儲在處理器的緩存而不是RAM中，所以不會被移走。因此某些探索會變得更容易。 比如我們可以搞個一兆個權重的系統，但是每次訓練隻涉及數十億的權重。這種方式更接近大腦。

Wired：AI和機器學習的快速增長，是否也帶來了新的挑戰？

Hinton：現在一個巨大的挑戰是，如果你想發表一篇機器學習論文，有一些條條框框的限制。如果你用的方法，看起來效果沒那麽好，那就很難發表。我不認為這能鼓勵人們去思考全新的方法。

現在如果你發送了一個有著全新想法的論文，被接收的可能性非常低，或者會有一些無法理解你想法的初級同行在評審，或者一些看了太多論文的資深評審者，他們都不理解你的論文，並且認為是無稽之談。我認為這非常糟糕。

我們應該追求的，特別是在基礎科學會議上，是一些全新的想法。從長遠來看，一個全新的想法比一個微小的改進更有影響力。出現這個問題的原因，就是資深人士太少，而年輕人太多。

Wired：這會破壞AI領域的進展麽？

Hinton：用不了幾年，問題就會自行解決。困難都是暫時的。大公司、大學都已經開始培育更多的人才，大學最終也會聘請更多的教授。

Wired：一些學者警告說，目前的AI熱潮還會再次進入寒冬。

Hinton：不，不會再有AI寒冬了。現在AI都已經在你的手機裡了。當年經歷AI寒冬時，人工智能還不是人們日常生活的一部分。而現在AI已經是了。

—完—

活動報名

加入社群

量子位AI社群開始招募啦，歡迎對AI感興趣的同學，在量子位公眾號（QbitAI）對話界面回復關鍵字“交流群”，獲取入群方式；

此外，量子位專業細分群(自動駕駛、CV、NLP、機器學習等)正在招募，面向正在從事相關領域的工程師及研究人員。

進專業群請在量子位公眾號（QbitAI）對話界面回復關鍵字“專業群”，獲取入群方式。（專業群審核較嚴，敬請諒解）

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復“招聘”兩個字。