意見領袖 | 孫明春
ChatGPT的發布及快速迭代引發了全球對人工智能（AI）技術研發與應用的新一輪熱潮。與此同時，AI技術快速發展可能給人類社會帶來的風險與挑戰也日益引發關注。3月29日，以馬斯克為首的上千名業界人士聯合發出公開信，呼籲“所有人工智能實驗室立即暫停對比GPT-4更強大的人工智能系統的培訓至少6個月”，以便給業界一段時間來“開發和實施一套高級人工智能設計和開發的共享安全協議”，“並給社會一個適應的機會”。
許多業界人士擔憂，作為一項有可能對各行各業產生顛覆性影響的技術，AI除了有可能導致大量就業崗位消失、加大貧富差距與不平等現象，還會帶來技術安全、數據濫用、隱私洩露、信息造假、算法偏見、技術洗腦、機器人操縱等諸多問題；有些人甚至擔憂AI會超越人類智慧，進而控制或取代人類，威脅人類社會的生存。雖然對這些風險尚存在爭議和分歧，但AI技術進步如此之快，很可能會快速超越全球經濟、社會、政治、法律乃至倫理規範的承接與適應能力。鑒於AI技術有可能給人類社會帶來重大風險，也許AI技術的確有必要放慢創新與應用的步伐，給人類社會更多適應的時間，以便在認知（包括知識、道德、文化理念等）及制度（如法律、教育、社會保障體系等）等方面抓緊準備和盡快追趕。
其實，各國政府、國際組織、學術界及行業領軍機構早已關注此類風險，並通過制定監管政策、倫理規範及自律措施來應對。例如，聯合國教科文組織於2017年發布了《機器人倫理報告》，經合組織（OECD）於2019年發布了《OECD人工智能原則》，歐盟在同年發布了《可信賴的AI倫理指南》，中國政府也於2019年發布了《新一代人工智能治理原則——發展負責任的人工智能》；微軟、谷歌、百度、騰訊等業內領軍企業都已制定了自身的AI技術開發的倫理原則，將相關風險作為高科技企業ESG實踐的一個重點領域來對待。
然而，這些舉措能否有效控制AI技術快速發展所帶來的重大風險？馬斯克等人的呼籲能否奏效？與馬斯克等人的呼籲形成鮮明對比的是，最近一兩個月，全球各大科技公司先後宣布了下一步的AI研究和投資計劃，一批業界知名人士紛紛投入到AI領域的創業熱潮之中，各行各業都在抓緊研究和制定類似於“ChatGPT+”的人工智能技術增強策略。面對巨大的業界競爭壓力和誘人的發展機遇，很難想象一家企業會主動暫停自身在該領域的研究和應用。
從這個意義上講，政府監管也許是必需的，但政府監管也面臨兩大難題。
一方面，AI技術的競賽不只是發生在企業之間，也是當前大國競爭的重大前沿領域。鑒於該技術對經濟發展乃至國防安全的重要性，很難想象哪個國家的政府會真正限制本國在該領域的技術進步，反而更有可能為其提供各類軟硬體支持，以幫助本國企業在國際競爭中脫穎而出。這意味著，類似於對核擴散的管控及應對氣候變化的措施，對AI技術的監管約束必須在全球範圍內、通過國家間的合作與妥協來實現。然而，在當前的全球地緣政治形勢下，在這個領域開展實質性國際合作的前景並不樂觀。
另一方面，即便要加強政府監管，如何針對一個加速發展、充滿大量未知可能性、影響各行各業乃至倫理規範的技術領域進行有效監管，在價值取向及利益分配方面必然存在諸多分歧。從經濟學角度來說，要找到既能控制風險、彌補市場失靈，又不遏製技術創新及經濟發展的監管平衡點，也極其困難。
綜上所述，今後幾年，AI技術的飛速發展很可能是不可避免的，其所帶來的某些風險與挑戰也將迅速變為現實。尤其是對就業的衝擊，很可能在3~5年裡就會非常明顯。面對這種可能性，我們需要多管齊下，政府監管、企業自律、學術研究、個人準備都不可或缺。當務之急是要提高全社會對相關風險的認知度和關注度，將該議題提升到與應對氣候變化、防止核擴散等重大全球風險議題相當的水準，以推動各利益相關主體抓緊采取行動，以期防患於未然。從這個意義上講，即便馬斯克等人的呼籲未能阻止任何AI實驗室的研發進展，它在全球引起的廣泛關注及對公眾的啟蒙教育也意義重大。ESG投資者更要關注這一議題，利用手中的資本及其影響力，對緩解相關風險作出自己的貢獻。
本文來源：第一財經
(本文作者介紹：中國金融四十人論壇成員、海通國際首席經濟學家)
香港九龍灣馬來街興發大廈15樓D室