每日最新頭條.有趣資訊

Uber自動駕駛車禍判決,技術要負責任嗎?

文 |張田勘

美東時間11月19日下午1點半,美國國家運輸安全委員會(NTSB)召開會議,正式公布2018年3月Uber自動駕駛車禍事件的原因。這是全球第一例,也是目前為止唯一一例自動駕駛車禍原因正式確認。

NTSB將車禍的主要原因歸咎於Uber脆弱的安全文化,沒有開啟緊急製動系統,沒有及時對安全員進行監督,事發時,安全員仍在看電視而非及時采取措施以扭轉局面。此次車禍主要原因在人,而非技術。

Uber自動駕駛導致車禍(圖片來源:視覺中國)

自動駕駛車禍,敲響Uber安全文化的警鍾

這起車禍發生在亞利桑那州馬裡科帕縣坦佩市,2018年3月18日晚10時許,Uber的一輛自動駕駛汽車撞上了49歲的婦女伊萊恩-赫茨伯格(Elaine Herzberg),並導致其死亡。該事故也是全球首例無人駕駛汽車致人死亡的事故。

事發後,誰來承擔責任,以及承擔多大的責任不只是對於交通安全有重要意義,而且對於人工智能(AI)的發展有著舉足輕重的影響,表現為促進還是延遲AI在汽車駕駛以及其他交通工具上的使用。

車禍發生後,當地馬裡科帕縣檢察官波克表示,針對Uber的刑事責任“沒有依據”,但警方應調查車上女性備份司機(安全員)拉斐爾·瓦斯奎茲(Rafael Vasquez)的行為。

此後,2018年6月的一份調查報告顯示,瓦斯奎茲可能面臨駕駛車輛過失殺人的指控。因為在事故發生前,這輛裝載有Uber自動駕駛系統的沃爾沃XC90以每小時43英裡的速度行駛,但安全員瓦斯奎茲一直在用手機觀看一個直播電視節目。在汽車撞上正在過馬路的赫茨伯格半秒鐘之前,赫茨伯格抬頭看了一眼。但車上的瓦斯奎茲顯然沒有發現車前的赫茨伯格,因而露出驚恐表情。

現在,NTSB的判決應當說是專業和權威的,與當時檢方的觀點類似,也即人要負主要責任,技術不負責任。但是,細究其來,人與技術可能都有責任,但主要責任是在人。因為,如果人要負責的話,應具體落實到是哪個人,是Uber的法人代表,還是車上的安全員,或者說兩者都有責,但責任有輕有重。

不過,在NTSB主席羅伯特·薩姆沃特(Robert Sumwalt)看來,“自動駕駛系統的失控和安全員的不當行為指向一個更深層次問題——Uber的無效安全文化。”既然是Uber公司的安全文化無效,當然是該公司,具體而言是公司的法人代表(董事長或CEO)要負主要責任。

所謂安全文化是指,在人類所有的活動中,既然一切是為了人的福祉,就應當以人的安全為第一標準,這已經是人類從農業文明以來一直堅持的一個準則,在工業文明時代更為明確和明顯。人發明和使用機器為自己服務,但是,使用機器時,會產生比農業文明時代還要多得多的事故和傷亡,到今天的第四次工業革命時代,人的安全更受到發明和使用機器的威脅,如自動駕駛、工廠中的機器人,以及可能在戰爭中使用的AI機器人。

但是,Uber公司設計的自動駕駛軟體和使用程序卻無視以人的安全為第一的準則。NTSB的調查發現,Uber自動駕駛汽車是在識別到行人赫茨伯格後1秒才開始緊急製動(刹車),但此時距離碰撞只有0.2秒,事故已經無法避免。

按照專業界的標準,在碰撞前1.3秒,自動駕駛系統需要開啟緊急製動來避免或緩解碰撞,並盡早提醒安全員進行乾預並采取行動。但是,Uber認為緊急製動系統會造成車輛的不穩定,放棄了使用緊急製動系統。從這個設計來看,是把車輛的流暢運行放到了第一位,而把行人的安全放到了第二位。這當然是安全文化無效或缺失。

Uber公司忽視安全的嚴重性更在於,既停用了該輛沃爾沃汽車的自動緊急製動系統,同時Uber自己的系統也沒有自動刹車的能力,僅僅依靠一名人類安全員來刹車。同時,Uber也沒有及時監測安全員的工作狀況。因為,Uber車內裝有攝影頭主要是監控司機,但沒有監控到安全員的行為,以確保他們對車輛的行駛狀況保持警惕。這等於多重安全防線的失守。

Uber公司的安全文化缺失,員工自然也不可能得到安全文化的有效培訓,這體現在車上的安全員並沒有注意車輛行駛的情況,而是放心大膽地在車上看視頻,以為把一切交給智能機器就能高枕無憂。

圖片來源:視覺中國

AI時代,機器比人更可靠?

這種情況不只是出現在Uber公司,可以說,在世界上研發、使用機器的所有工廠、公司和所有地方,都或多或少存在這種情況,把一切放心地交付給機器,認為機器和AI比人更可靠,既能預測事故,又能避免事故。然而,這是一種非常離譜的思維,尤其在進入AI時代,如果把一切交由AI來判斷和執行,終將釀成大錯。

這個問題,早在劉易斯·芒福德的《技術與文明》一書中就提出了。人類發明和依靠機器,實際上也深深地改變甚至強製了人類自己。如果說,人類依靠機器和技術擺脫了自然的完全控制,卻反過來掉入了機器和技術的控制之中,把一切都交由機器和技術來操作和控制。機器和技術取決於人對其利用的好壞,如果利用得好,是造福人類,如果利用不好,則會禍害社會。

過去只是認為,讓技術,如武器不分青紅皂白地殺人,是壞的利用。但殊不知,放心地把一切交由技術來控制其實也是技術壞的利用的一個方面。Uber和安全員把操控汽車的所有權都交與自動駕駛軟體,並由此引發致人死亡的車禍就一個明證。

NTSB對Uber自動駕駛車禍調查結果同時也指出了一個問題,現在的自動駕駛技術,即AI軟體並非此前所認為的那樣,已趨於成熟和安全。Uber的自動駕駛汽車在發生車禍前5.6秒鐘就檢測到了行人,但將其錯誤識別為汽車,此後該自動駕駛系統又對物體的分類發生了混亂,認為不是汽車,而是其他物體,由此在汽車和其他物體的判斷之間搖擺不定,浪費了生死攸關的果斷采取行動的時間,車輛沒能及時刹車。這實際上也表明,自動駕駛軟體還不能識別在人行橫道外過馬路的行人,誤把行人當成物體或其他汽車。

這種情況表明,即便自動駕駛技術能過關,也能完全識別路上的行人,我們同樣要強調安全文化,把人的安全放在第一位,而且不能把一切全部交給AI來控制和執行。對此,NTSB主席薩姆沃特提出,今後要推出在公共道路上測試自動駕駛車輛的安全風險管理要求。至於此次事故的法律責任,也許還要由法院來判決。

張田勘(媒體人)

編輯:范娜娜 實習生:李碧瑩 校對:陳荻雁

獲得更多的PTT最新消息
按讚加入粉絲團