這是再日常不過的一天。
一台手掌大小的無人機，在大廈間緩慢飛行，它身上的攝影頭在人群轉運站動、環視、識別。
突然，一個人被無人機精準爆頭、一擊斃命，隨後他周圍所有人都被瘋狂掃射，一秒內，樓宇間血肉飛濺、屍橫遍野。
而只有一個人毫發無損地從剛剛的槍林彈雨裡走出來，無人機隨後跟他離開。
這只是未來AI武器可能會帶來的一個小故事。
Google 與美國國防部合作，能用先進的計算機視覺，自動識別無人機拍攝的 38 個類別的物體
現在，AI 武器已經被美國、俄羅斯、英國、法國、以色列和韓國等國家部署和開發，包括 381 種部分自治武器和軍事機器人系統。
這些基於人工智能的槍支、飛機、船隻、坦克、機器人，將有可能在算法的控制下，掀開未來的世界大戰。
它也被視為一種致命的自主武器系統（LAWS）——不僅「會思考」，能辨別自然語言，還能「有意識」地尋找和辨別攻擊目標，以傳統武器和士兵無法比擬的速度和效率消滅對手。
因為它們攜帶著目前一切武器都難以預測的殺傷力，AI 專家在美國科學促進會 (AAAS) 華盛頓年度會議上表示：
AI 武器將會帶來「戰爭中的第三次武器革命」，成為人類生存最大的威脅。
再見，火藥和炸彈
眾所周知，前兩次武器革命，每一次都讓社會飽受重創，小到秒殺一個人的生命，大到讓一個國家瞬間湮滅。
第一次武器革命是火藥。
13 世紀傳入西歐後，靠冷兵器耀武揚威的騎士階層從此衰落，隨著無煙火藥、雙基火藥、雷管等的出現，才產生了真正意義上的軍事革命，現代意義上的火箭、炸彈、導彈隨之而來，戰場上開始炮火連天。
第二次武器革命是核彈。
1945 年，日本廣島在一聲震耳欲聾的蘑菇雲爆炸下，瞬間淪為火海，71379 位無辜平民受難，建築和人類都如原子一般分崩離析。核爆炸產生的巨大破壞力，還產生了幾萬年都無法消失的放射性危害。
而對於 AI 武器的破壞力，特斯拉創始人馬斯克曾在聯名 2000 多位 AI 專家請願禁止「殺人機器人」時說道：
請一定記住我的話，AI 要比核武器還危險得多。
這就是將來的第三次武器革命：AI。它也是一場無形的武器革命。
其實我們日常生活中對 AI 已經並不陌生，從 Siri 通過語音識別我們的需求，到互聯網通過用戶畫像實現對廣告的精準投放，2017 年，進化版 AlphaGo 的 Master 機器人甚至團滅圍棋頂尖高手，AI 技術以肉眼可見的速度在進步。
但當它用到武器之中，雖然並不會像《終結者》裡那樣科幻，但依然足以令人畏懼。
AI 武器將成為一個自主性的殺傷性武器，不僅將能在任何環境下被任何人採用，還能讓戰爭變得工業化、超越人類道德規範，從而變得無法掌控。這也是為什麽它在火藥和核彈之後，被稱為武器的第三次革命。
只要人們在武器內設定了算法，再加上豐富的傳感器、不同功能的攝影頭等，一個武器就能精準識別、跟蹤、定位某個戰鬥員，還能中途重新編程和攥改算法，跟蹤更多戰場變量。
在密集的戰鬥空間裡，決策、部署和速度就是關鍵資產。AI 能夠精確製導武器，不用士兵操縱，就能讓飛機、戰艦、裝甲車大規模絞殺敵人，獲得更顯著的勝利機會。
以往的戰鬥速度和持續時間都會被改變。因為 AI 武器的殺戮速度，無論是在行動還是思維上，都完全可以超過人類保護自己的速度。
2000 年，德國漢諾威舉辦的世界博覽會上展示的機器人. 圖片來自：美聯社
它可怕的地方還在於：每個人，都能利用 AI 的技術讓武器變成「殺手」。
植入武器的算法，不需要以往高價或稀缺的原料，一個程序員和一個 3D 印表機，就能做出一群武器製造商才能做出的東西；資金充裕的人，就能實現一個超級大國用一支軍隊才能辦到的事情。
這將使武器廉價批量生產，使戰爭產業化。
另外，AI 在軟體系統中，也能成為一種武器，同樣會造成可怕的後果。可以預見的是，恐怖主義的恐慌必將升級，人們將整日覆蓋在信息恐慌的無形陰影之下。
因為你不知道哪天，就有人操作著精密算法向幽暗處機甲狂潮，利用 AI 讓全國停電或系統癱瘓，或生成智能惡意軟體或黑客程序，精準定位弱勢用戶和系統，利用數據和隱私脅迫群眾。
當越來越多國家開始重視起 AI 武器的未來，預防行動的機會之窗也在迅速關閉。
AI 大戰一觸即發？
我們已經聽過 N 種機器人崛起並毀滅人類的陰謀論，但實際發生的可能性或許是 0。
目前 AI 機器的編程也還依賴於固定數據，模型取決於環境條件，信號可能受到干擾，技術背後的科學和大腦都不成熟……
AI 擺脫人類、替代人類、控制人類、成為新物種都很遙遠也並不現實，且完全自主的 AI 武器現在還沒出現。
雖然表面看起來風平浪靜，各個國家還在用傳統武器來縮小與世界軍事力量的差距，但 AI 帶來的無人戰鬥實力正在逐步顯現，由技術驅動的「輕型戰爭」一直在暗流湧動，等待爆發。
各國正在研究的 AI 武器一般包括七大類：進遠程自動射擊機器人、智能無人機系統、無人艦船與潛艇、自主射擊陸戰武器、智能導彈體系、網絡攻擊與衛星攻擊武器等等。
一名男子在武器交易會上走過武裝機器人系統. 圖片來自：Brendan Smialowski / Bloomberg / Getty Images
現在，美國海軍陸戰隊的海軍X-47B無人轟炸機已完全由電腦操控，韓國的Super aEgis II自動炮塔、俄羅斯的Platform-M戰鬥機器人都已實現自動化控制，還有很多無人機、安防機器人已難以區分軍用與民用的界限。
美國五角大樓的軍方智囊團一致認為人工智能、機器人和人機協同將改變戰爭進行的方式。俄羅斯高級軍事官員也表示，機器人近幾年內將在戰爭中被廣泛使用。
而且全球技術支出的加大，也讓「完全自治」的人工智能機器更接近實現。國際數據公司的研究表明，全球機器人技術支出將從 2016 年的 915 億美元翻倍增長到 2020 年的 1880 億美元。
以色列的鐵穹部分是自治的，軍方官員說完全自主武器很快就會普及. 圖片來自：阿米爾科恩 / 路透社
人工智能正在顛覆原有的社會結構和分配方式，數據已經成為了最重要的資源。
《今日簡史》裡談到了這樣的觀點：現代社會已不像過去對石油、殖民地那樣瘋狂渴求，傳統的戰爭幾乎已無利可圖，信息社會裡最重要的資源是無形的，未來的戰爭勢必是一場技術戰。這也是為什麽這麽多年來，大規模的戰爭都沒出現過的原因。
是的，人們正在為高科技戰爭做準備，AI 會讓戰爭出現一種隱藏的、新舊交織、複雜混合的新形式。
AI 用於軍事的趨勢是不可阻擋的，雖然它也有一些好處，諸如通過精確定位來減少戰爭中的平民傷亡，但可能會出現的最壞結果，是更難以掌控的人與人、人與機器、機器與機器之間相互交織的危機。
科技的邊界是無限的，但法律和政治需要邊界。
荷蘭反戰非政府組織帕克斯（Pax）在新報告中擔心軍備競賽因此爆發，並表示「要防止最終的災難，必須采取全面禁令。」
目前，有 28 個國家明確支持禁止使用完全自主武器，但美國、英國等國反對這樣的禁令，認為禁令「為時尚早」，還能探索開發和使用自主武器的潛在優勢，國家武器審查是處理自主武器的最佳方式。
發展中或低度開發國家一般受 AI 武器威脅最大，圖為葉門街上的壁畫塗鴉. 圖片來自：路透社
不過從更積極的方面來看，禁令的勢頭正在增長。
去年，不結盟運動和非洲集團呼籲制定一項具有法律約束力的文書，聯合國秘書長也呼籲實施禁令，稱這些武器「在政治上是不可接受的，在道德上是令人反感的」，這些呼籲獲得了成千上萬的人工智能科學家、民間社會、宗教領袖和諾貝爾和平獎獲得者的支持。
2013 年 4 月起，和平組織 PAX 共同創立了國際知名的停止殺手機器人運動，近年來，一直在推進禁止自主武器的開發、生產和部署，以及關注其中的法律、道德和安全問題。
對於 PAX 而言，AI 武器必須被禁止的最重要的原因，就是其中的道德問題。
禁止殺人機器人組織. 圖片來自：stopkillerrobots
越不過道德的邊境
當生死決定簡化成了算法，我們可以進行一系列沒有答案的提問：
如果恐怖分子掌握了這些武器，解決辦法是什麽？
AI 武器在戰鬥員不穿制服和平民經常武裝的社會中，如何區分人類？
想象中隻做正確決策的理性 AI 機器的形象是天真的。
因此我們需要政府對 AI 進行管控，包括帶有偏見的算法、開發「殺手機器人」的軍備競賽、科技公司對於個人數據隱私的威脅等等。而人類真的擔心一種技術會對未來造成的影響，除了對武器進行有意義的人為控制、確保遵守國際人道主義法和人權法等，各行各業也都需要盡快參與到這項技術的開發和應用中來。
為了減輕政治上的反對意見，美國軍隊還資助過一個項目，希望為機器人士兵提供良知，讓他們有能力做出道德決定。但機器都無法區分載有敵方士兵或兒童的公共汽車，更不用說道德了，這就像是把所有致命錯誤的責任都委託給了武器。
圖片來自：Wired
人類士兵擁有諸如日內瓦公約等法律協議來指導他們，但自主機器人現在隻受涉及標準武器的武裝衝突法的保護。無生命的機器無法理解生命，也不能理解其消失的重要性，但他們有權決定何時將其帶走，這多麽荒謬。
無論如何，在選擇和消除目標時，人們應始終擁有控制權。畢竟，殺手機器人不僅會被我們所使用，它們也會被用來對付我們。放棄人類對生活和死亡決定的控制，將剝奪人們固有的尊嚴。
任何使用武力的決定，都應該非常謹慎並尊重人的生命價值。
反戰 NGO 團體「Codepink」2013 年在美國的「無人機展覽會」場外抗議. 圖片來自：法新社
其實這樣的事件歷史上已經有過一次先例。
化學武器也曾像自動武器一樣便宜，除了使用廣泛，還涉獵了法律當時無法禁止的領域，武器公司可以出售化學武器，犯罪分子也能對一個國家發動化學攻擊，只要在一次戰爭中投下它，毒氣就將遮天蔽日，隨後大地生靈塗炭。
但我們沒有禁止化學，而是禁止了使用化學武器。
人類的大腦擁有多麽無限可能的智慧，人性就擁有多麽不堪一擊的脆弱，但好在我們總能在關鍵時刻，穩住人類的決定權，或者，在大勢之下找到最優選擇。
AI 也「走」到了這一天。
武器雖然是為戰場而生，但它和 AI 一樣，到底是一種工具，兩者結合最好的意義，理應是保護人類更好的未來。
那讓這難得的和平，再持續得久一點吧。
題圖及末圖都來自：stopkillerrobots
香港九龍灣馬來街興發大廈15樓D室