每日最新頭條.有趣資訊

自動駕駛汽車會“殺死那個胖子”嗎?

3月20日凌晨,在美國亞利桑那州坦佩市,一名司機乘Uber自動駕駛汽車正進行路線測試,恰遇一名女子穿越馬路,結果人車相撞,這名女子在送往醫院後不治身亡。

儘管當地警察局長表示,根據Uber自動駕駛汽車配備的攝影頭拍攝的影片,這次事故的過錯可能是這名女士,但這起事件依然引發了全行業關注,並造成了人們對自動駕駛的恐慌和質疑。

這起事故前,已經發生了多起自動駕駛出現事故的案例,自動駕駛也正以“摸著石頭過河”的姿態迎接這些質疑。Uber這起事件也引發了5點思考:

作者丨解夏

來源丨便當財經(ID:daxiongfan)

1

一群人和一個胖子,一定會撞到其中之一,無人車如何抉擇?

一個坐著電動輪椅的女人在路上追趕一群鴨子,一群人在馬路上排成一行做青蛙跳,一個毫無預兆突然靠近並滾過無人車的前蓋,甚至有人在車子面前裸奔……當無人車遇到這些場景時,會怎麽做?谷歌無人車在實驗階段就應對過這些情況。

在《你會殺死那個胖子嗎》一書中,作者提到了一個世紀難題:電車難題。大意為,一個瘋子把五個無辜的人綁在電車軌道上,一輛失控的電車朝他們駛來,並且片刻後就要碾壓到他們。幸運的是,你可以拉一個拉杆,引導電車開到另一條環形軌道上,這條軌道上隻綁著個一個胖子。如果是你,你會拉下拉杆嗎?

電車難題

針對無人車遇到“電車難題”的假想,Google無人車項目總監阿莫森表示,無人車會盡量避免出現這樣的情況。無人車的行車準則是防禦性駕駛(Defensive Drive),一定會盡最大的努力避免這樣的情況發生。

霍金也曾對無人駕駛提出自己的擔憂:在緊急情況下,一輛無人駕駛汽車不得不在小風險的大事故和大概率的小事故之間進行選擇。

撞人還是撞狗?

“電車難題”實際已經上升到倫理高度,且引發了道德主義、功利主義等領域的爭論,面臨這樣的問題,人類尚且難以決斷,況機器乎?在“最優解”尚未出現前,機器會怎樣判定“損失”呢?機器會有怎樣的選擇呢?這一爭議無疑是自動駕駛領域需要思考的。

2

具有主動意識的人類司機,與程式主導的無人車,狹路相逢,誰是勇者?

前文提及的無人車“防禦性駕駛”,在現實中也遇到過難題。

2016年,Google無人車在行駛途中,發現車道前方有沙袋,於是它試圖切換到左側車道,然而,無人車後方的公車也切換到了左車道,且行駛速度非常快,無人車駕駛系統以為公車會減速讓行,不料公車在變道時加速行駛超車,最終兩車相撞

還原Google無人車當時的場景

“這對我們來說也很難過(Tough)。”阿莫森談起這起事故時說。Google後來承認無人車對這次事故要承擔“部分責任”,並且在事後對自動駕駛系統進行了調整,

Google方面表示,“這件事之後,我們的車會更明白,相比起其他的車來說,包括巴士在內的大型車輛對別的車避讓的可能性比較低,我希望我們的駕駛系統以後可以更好地處理這類問題。”

李彥巨集在《智能革命》一書中對此發表看法稱,在這起事故中,反而是遵守交通規則的無人車被人類“欺負”無人車的訓練中不可能允許違法行為的出現,那麽它要怎樣和靈活應變的人類相處,遇到實際駕駛中的模糊區域要怎樣做出決策?這也為無人車的法律法規、自動駕駛汽車監管、事故時的責任界定等問題留下了爭議地帶。

3

司機身份的爭議:“司機”是人,還是自動駕駛系統?

上一問題衍生出另一個爭議:自動駕駛汽車裡的“司機”是人,還是自動駕駛系統?

目前,無人駕駛技術在歐盟和美國一些州都存在法律障礙。歐盟法律規定,汽車必須由持有相應駕照的司機駕駛,任何人不得以任何理由接管駕駛權。美國只有四個州支持自動駕駛汽車上路。

2015年,美國加州首次為自動駕駛汽車制定了法律規範。條例草案規定,無人駕駛汽車不能真“無人”,它在行駛上路時必須有一個具備駕駛資質的駕駛者坐在駕駛位上。但這一限制,直接打斷了不想開車卻又像獨自乘車出行的人的念頭。

此外,條例草案中還提到,駕駛者需獲得駕駛無人駕駛汽車的專門資質,培訓必不可少。

美國國家高速公路交通安全管理局把這種車的‘司機’理解為自動駕駛系統,而不是車上的人。”這是谷歌所描述的無人駕駛車輛設計,這也意味著谷歌無人駕駛汽車將不會有傳統意義上的司機。然而,在法律上的種種規定,都為自動駕駛的“司機”身份蒙上了一層面紗。

4

出現事故時,責任該歸於人,還是自動駕駛系統?

“司機”身份的界定也引發了另一問題,在3月20日這起Uber自動駕駛汽車致死的事故中,車輛上是有一名駕駛員的,那麽,責任究竟該歸於哪一方?

事故現場

騰訊研究院法律研究中心高級研究員曹建峰對此進行分析,主要觀點如下:

(1)司機如何承擔責任?

一般交通事故發生後,首先看司機有沒有過錯,司機是第一位的責任人,依其注意義務和過錯大小承擔責任。而在這起事故中,駕駛活動從司機讓渡給了自動駕駛系統,安全駕駛員不控制駕駛活動,在當時的情況下對駕駛活動沒有注意義務(due care),所以不承擔侵權責任

(2)車企如何承擔責任?

由於司機不再控制駕駛活動,或者根本就不存在“司機”,所以當發生事故時,只能考慮追究汽車製造商、自動駕駛系統提供者等相關主體的責任,一般為產品責任。

在這起事故中,Uber使用的是沃爾沃越野車,如果最終證明這起事故是因沃爾沃汽車自身的缺陷(比如刹車失靈)造成的,則沃爾沃需要承擔產品責任。但在這起事故中,似乎並不存在刹車失靈的情況。那就需要看Uber的自動駕駛系統是否存在設計缺陷。

(3)自動駕駛系統提供者如何承擔責任?

當司機、汽車製造商被排除之後,需要考察自動駕駛系統提供者有無承擔法律責任的情形。系統提供者一般要對汽車進行改裝,安裝必要的雷達、傳感器、攝影頭等硬體設備,同時研發自動駕駛軟體系統,執行駕駛任務。

一般而言,當汽車被改裝成自動駕駛汽車後,汽車製造商不對改裝後的缺陷承擔責任。傳感器、攝影頭等外設設備輸入數據,自動駕駛軟體對輸入的數據進行處理並作出駕駛決策。所以自動駕駛活動一般可簡單分為感知、分析和決策。

這起事故主要涉及準確、及時地感知、識別到障礙物(本案例中為行人)並采取刹車等措施從而避免碰撞。

那麽,如果是某個傳感器或攝影頭出了故障(即存在缺陷),導致沒有感知到行人,則Uber可能需要承擔責任。或者傳感器都正常工作,但Uber的軟體系統沒有識別到行人,導致沒有采取刹車,亦可能需要承擔責任。假設感知和識別都是正常的、準確的,則存在另一個問題,即及時性問題……

曹建峰認為,在這起事故中,Uber是最可能的責任承擔方。但如人們所猜測:

Uber對這起事故的發生沒有責任,因為Uber自動駕駛系統不存在缺陷,碰撞在當時的情況下是無法避免的。所以,可能在這起事故中,有過錯的是受害人,包括司機、汽車製造商、Uber等都不存在承擔法律責任的事由。

回到最初的問題,當發生事故時,責任究竟歸於哪一方,在各方均有理的情況下,這仍是一樁“懸案”。

5

其他“極端典型性”爭議

實際上,關於自動駕駛的爭議遠不止於此。例如李彥巨集曾表示,“應該做個廣告,人在車裡喝酒,以後自動駕駛可以不查酒駕了”,這引發爭議:在自動駕駛汽車裡,司機能否進行飲酒、吃飯或辦公等行為?此外,若司機可以飲酒,那麽進入自動駕駛汽車後,司機又進行“人為駕駛”,是否產生了另一種危險行為?

還有一個極端的例子,一輛無人駕駛的汽車和一輛載滿學生的校車即將相撞,無人駕駛汽車是否會選擇跌落懸崖,犧牲車內人員的生命來拯救迎面的校車內的所有學生?這也拋給我們自己一個問題:是否要給予機器決定人類生死的權利?

當然,若技術成熟,自動駕駛也會呈現非常可觀的效果。李彥巨集在《智能革命》一書中就做了大膽的想象:人工智能的反應速度、聯網效應可能會給出比人類更好的解決方案,車聯網系統可以將無人車連成整體,每輛車在行駛時“腦海中”都有“大局觀”,當一輛車緊急刹車,就會緊急“告知”一定範圍內的其他車輛,其他五人車也會做出相對應的措施,因此可以避免連續追尾事故。

面對爭議與質疑,我們除了痛定思痛外,也應該避免“刻舟求劍”的固化思維,避免陷入“有人駕駛”時代的思維束縛。不妨設想,假如你遇到了“電車難題”,“你會殺死那個胖子嗎”?

獲得更多的PTT最新消息
按讚加入粉絲團