技術時代的愛與怕

2020年初，“南都觀察”在北京為讀者奉上了一場有關“技術時代的愛與怕”的2019年度對話。

這次對話邀請北京航空航天大學人文與社科研究院/法學院副教授余盛峰為嘉賓主持，與上海交通大學文科資深教授、中國法與社會研究院院長季衛東，清華大學科學史系主任吳國盛，複旦大學哲學學院教授徐英瑾，北京郵電大學崗位教授、人機互動與認知工程實驗室主任劉偉以及《人工智能學家》主編劉鋒等五位嘉賓一起，基於各自相異的研究背景，共話技術時代的愛與怕，破解當代人的忙與盲。

對話現場。

科技帶領人類去向何方？

幾位嘉賓的對話主要圍繞技術時代人類在面對科技時的態度和選擇，在展開這個看起來新鮮實則古老的話題前，回顧人類科技史並展望未來成為題中之義。

主持人余盛峰表示，自人類學會使用工具以來，技術幫助人類超越自身的局限，不斷實現人類歷史上的突破性進展，但技術的負面效應也屢見不鮮。他還引用嘉賓吳國盛教授曾經的觀點，科技越發達，對於個體時間和精力的侵佔越顯著，人類在創造性活動上的投入也就越發有限。現場的首個討論就此得以拋出：科技能夠帶領人類飛升還是正在為人類製造牢籠？

對此吳國盛回應道，科技本身其實既不會帶領人類飛升也不會為人類製造牢籠，人與技術並不能割裂開來談，或者說二者其實是一種鏡像關係，人類不應僅將技術視為自身主體所攜帶的工具。

作為計算機博士，劉鋒老師更願意將技術比喻為人類手中的“錘子”，假設人類的進化擁有明確的方向，那麽這把錘子必然能夠成為得力的助手，最為關鍵的問題就變成了人類如何使用技術。人類不僅要能夠使用錘子、升級錘子，自身也要隨著錘子的升級而成長，如此技術就可以視為人類飛升的工具，反之就必然遭到反噬。

季衛東教授以知名科幻電影《2001太空漫遊》《終結者》等為例，說明技術是人類認識和改造自然的手段，在此過程中也必然會帶來問題和風險，人類對此已經產生一定的警惕性。但從法律角度分析，隨著科技的不斷演進，特別是人工智能的發展可能帶來很多問題的不可說明，人類組織的問責機制將會受到嚴峻考驗。

在人工智能哲學方面有所建樹的徐英瑾教授也表示“事情正在起變化”。劉偉教授則稱，儘管人類距離真正的人工智能還很遠，目前更多的是人機互動狀態，但確實已經到了應該反思的時候。

工具會奴役人嗎？

延續對於技術的反思，對談話題從人的角度延伸到更為具體的“人類製造工具還是被工具製造”的問題。

正如吳國盛老師指出的人與科技的鏡像關係，人類在利用技術時，技術也在利用人性持續進化。技術為人類生活帶來越大的便利，技術對於人類的隱性支配就越強，從這一角度看，人類思考和選擇的主動性大大降低了，算法會代替我們完成一切，而人類卻不免覺得自己始終掌握著主動權，余盛峰稱之為“理性人的幻覺”。

兩位哲學教授對於人與工具的關係也有著相似的理解，他們認為最重要的是看清其背後的問題。“太陽底下沒有新鮮事”，吳國盛強調，人類始終被過去遺留下來的生活方式所固化和控制，包括對於工具的製造和使用。可以說，人的“被控制”是一以貫之的，對於技術既有愛也有怕正顯示了人類這樣一種“永恆的境況”。

徐英瑾在此基礎上補充道，在人類的基本心理和生理構造並未改變的前提下，技術的突飛猛進帶來的海量信息和看似多樣的工具，實際上會造成對人類思維結構的破壞。他特別以短視頻的流行為例表達了這樣的擔憂，認為長期隻接收這樣的內容可能弱化人的語言思維能力和想象力。

季衛東提醒，當前人與工具的界限已經岌岌可危。他借用阿西莫夫的機器人三定律和零定律來解釋人與工具的關係，人類製造工具並對其進行絕對控制，但隨著技術的發展必然出現矛盾、衝突甚至失控，人類必須直面這一問題。

變動的邊界

落到具體的問題上，主持人與五位嘉賓還從2019年受到廣泛關注的人類基因組編輯事件出發，探討科技的倫理邊界。

劉鋒老師更願意為這一討論提供反思的視角，如果人類的進化並不存在一個固定的方向，那麽追求統一的倫理是否有其意義？假設存在這個方向，即為了人類的生存與發展，那麽科技將被用來促進這一目標，討論倫理邊界的問題就要先解決倫理如何制定的問題。

鑒於時代演進和人與技術的複雜關係，對此法學家季衛東認為，如“電車問題”這樣的傳統倫理難題要在全新的技術思維和手段之下重新思考，包括利用技術手段預測或推斷犯罪的手法也與法律角度認可的無罪推定之間存在矛盾，種種問題都變得更為尖銳。

西方倫理難題作為思想實驗，提醒人類意識到自身的局限，並隨之建立一系列的倫理標準。清華大學科學史系主任吳國盛進一步表示，由於中國人的傳統倫理道德觀念與現代科技帶來的倫理問題之間存在認識差異，不僅要意識到東西方倫理之間的衝突，更要意識到科技對於這種衝突的放大。

重新思考和界定技術帶來的倫理問題時，幾位學者基本認同兩種方式：第一是從法律層面規製技術，保障個人的權益特別是隱私數據，如歐盟的《通用數據保護條例》（General Data Protection Regulation, GDPR）；另一種則是利用技術本身的力量來規製技術，如同徐英瑾教授提倡的相對於“大數據”的“小數據”，他更傾向於發展那種天然不需要采集大量數據的人工智能技術，從中獲得更大的靈活性和對個人信息的保護。

人類的選擇權

在對話的最後，幾位學者各自總結了對於人類與技術關係以及人類未來前景的思考，表達了謹慎的樂觀態度。

複旦大學哲學學院徐英瑾教授延續他以技術製技術的觀點，指出可以利用中國的“虎符”思想，對數據進行拆分，完善相關法律並在技術上加強對本地存儲的利用，實現對於數據寡頭的製衡。

劉偉雖是技術專家，但對於技術的思考並未止步於技術本身。他使用“彌聚”一詞來總結人與技術（或機器）之間的關係，人變得越來越技術化，而技術則越來越人性化。在此前提下，基於人類本身邏輯的零碎特性，或許東方人不強調系統邏輯的思想觀念會給未來帶來更多的啟發。

哲學教授吳國盛也重申了他對於人與技術互動關係的看法，面對日新月異的技術進步不必過慮，技術的發展也要經受人性的選擇，也會通過種種手段進行調節。甚至謹慎之餘，可以樂觀地說，新技術也創造了更多的愛與多樣性，人並不會喪失全部的選擇權。

區塊鏈技術正是當前技術領域的熱點。計算機博士劉鋒認為，儘管當前的人工智能發展方向尚不明確，面對人工智能加網絡的巨系統帶來的衝擊，未來也許不是從技術而是要從龐大科技企業的組織甚至股權結構來入手，借助區塊鏈技術來管理巨量信息和科技手段的利用，為全人類謀福祉。

法學教授季衛東也認同，人類世界處在雖不可見卻無所不在的規製之中，如果能在強調數據整合的智能技術和強調數據分片的區塊鏈技術之間達成一定平衡，那麽以技術監督技術、以人工智能監督人工智能恐怕是一種頗為合理的選擇。