• 深度
  • 行業
  • 行業
  • 互動

全球首例自動駕駛車禍判決,愿景與現實之間的裂痕如何彌補?

科技云報道 2019-12-06

近日,美國國家運輸安全委員會(NTSB)正式公布去年三月Uber自動駕駛車禍事件的原因,這是全球首例也是目前唯一一例自動駕駛車禍原因正式確認。NTSB認為,車禍主要原因在人,而非技術。

因為Uber淡薄的安全意識,導致車輛沒有開啟緊急制動系統,沒有及時對安全員進行監督,事故發生時,車上安全員仍在看視頻而非及時采取措施。

?

因對自動駕駛的安全問題處理不當,Uber受到NTSB主席羅伯特·薩姆沃特批評,同時自動駕駛系統的失控和安全員的不當行為指向一個更深層次問題——Uber的無效安全文化。

這堪稱是自動駕駛短暫發展史上的一個里程碑式事件,這一事件將為此后如何避免類似事故提供了前車之鑒。

自動駕駛車禍

敲響Uber安全文化的警鐘

2018年3月,在美國亞利桑那州坦佩市,搭載了Uber自動駕駛系統的測試車正在以70km/h的速度行駛,行駛中不幸與過馬路的49歲女子伊萊恩·赫茲伯格相撞,導致該女子身亡。

該事件后,NTSB公布了Uber去年自動駕駛車禍事件中的一些細節,以及Uber自動駕駛以往的一些碰撞事故。文件顯示,Uber的自動駕駛汽車在發生撞擊前5.6秒鐘就檢測到了行人,但將其錯誤識別為汽車,撞擊前5.6秒時又將其歸類為其他物體。

?

此后系統對物體的分類發生了混亂,在“汽車”和“其他”之間搖擺不定,浪費了大量寶貴時間,車輛也因此沒有及時剎車。加之當時車上的安全員正在觀看電視節目,并未采取措施,最終導致事故發生。

?

NTSB報告還指出,造成事故的關鍵問題是,軟件無法正確預測受害者的類別和運動軌跡。如果系統可以及早正確地識別出前方物體是行人,就可能會大幅放慢速度,或者設法繞開避讓。

但是Uber汽車沒有預料到這起碰撞,系統在很長一段時間里把行人當做是某個未知的物體,認為它并不妨礙行駛。

Uber自動駕駛汽車在識別到行人后1秒才開始制動,此時距離碰撞只有0.2秒,事故已經無法避免。自動駕駛系統之所以行動如此遲緩,是因為Uber認為緊急制動系統會造成車輛的不穩定,所以關閉了該系統。

如果Uber從一開始就選擇開啟緊急制動系統,那么類似的悲劇則很有可能不會發生。此外,NTSB報告還顯示,在2016年9月至2018年3月之間,Uber的自動駕駛汽車共發生37起碰撞事故,有兩起事故是車輛撞到了路邊的物體,其他的事故則都是追尾和車輛刮蹭。

事故發生后,Uber踩下自動駕駛“剎車鍵”,重新思考安全問題:此事發生一個月多后,Uber關閉亞利桑那州無人駕駛測試中心,并裁掉300名員工;

同年7月,其無人卡車研發業務也被關停;沉寂大半年后,這家公司才帶著更新后的軟件,以及新增加的限制與安全保障措施,于年底恢復路測。

技術本無對錯

避免掉進技術編織的美好陷阱

Uber公司忽視安全的嚴重性更在于,既停用了該輛沃爾沃汽車的自動緊急制動系統,同時Uber自己的系統也沒有自動剎車的能力,僅僅依靠一名人類安全員來剎車。

同時,Uber也沒有及時監測安全員的工作狀況。因為,Uber車內裝有攝像頭主要是監控司機,但沒有監控到安全員的行為,以確保他們對車輛的行駛狀況保持警惕。這等于多重安全防線的失守。

Uber對安全文化的淡漠,導致員工也可能無法得到安全文化的培訓,這體現在車上的安全員并沒有注意車輛行駛的情況,而是放心大膽地在車上看視頻,以為把一切交給智能機器就能高枕無憂。

這種情況不只是出現在Uber公司,可以說,在世界上研發、使用機器的所有工廠、公司和所有地方,都或多或少存在這種情況,把一切放心地交付給機器,認為機器和AI比人更可靠,既能預測事故,又能避免事故。

然而,這是一種非常離譜的思維,尤其在進入AI時代,如果把一切交由AI來判斷和執行,終將釀成大錯。

劉易斯·芒福德的《技術與文明》一書曾提出,人類發明和依靠機器,實際上也深深地改變甚至強制了人類自己。

如果說,人類依靠機器和技術擺脫了自然的完全控制,卻反過來掉入了機器和技術的控制之中,把一切都交由機器和技術來操作和控制。機器和技術取決于人對其利用的好壞,如果利用得好,是造福人類,如果利用不好,則會禍害社會。

?

過去只是認為,讓技術,如武器不分青紅皂白地殺人,是壞的利用。但殊不知,放心地把一切交由技術來控制其實也是技術壞的利用的一個方面。

Uber和安全員把操控汽車的所有權都交與自動駕駛軟件,并由此引發致人死亡的車禍就一個明證。

如今,Uber正逐漸走出全球首例自動駕駛致行人死亡事故的“陰霾”。其表示,將在自動駕駛方面再投資10億美元。如此龐大的支出,賭的是不確定的未來。Uber自身也表示,自動駕駛技術的研發耗資大、難度高,并不能保證這一投資能夠達到預期效果。

對這項技術未來的不確定,也使摩根士丹利將自動駕駛“領頭羊”Waymo的估值下調了40%。今年9月,該公司將Waymo的估值從1750億美元下調至1050億美元。

對于下調原因,摩根士丹利分析師稱,自動駕駛行業的發展速度慢于預期,同時預計Waymo未來一段時間內對安全員具有持續需求,該公司的虧損將繼續擴大。

?

除科技公司外,車企也愈發謹慎。沃爾沃原計劃在2017年推出100輛自動駕駛的SUV ,后延期至2021年;福特CEO吉姆·哈克特也公開承認公司高估了自動駕駛汽車的到來,自家“2021年推出全自動駕駛汽車”的計劃可能有所推遲;

通用旗下自動駕駛公司Cruise CEO丹·阿曼甚至專門為此發布了一篇長文博客,暗示公司將推遲今年年底推出無人駕駛出租車的計劃。

雖然車禍的余波已經過去,但這場車禍調查結果同時也指出了一個問題,現在的自動駕駛技術并非此前所認為的那樣,已趨于成熟和安全。

即便自動駕駛技術能過關,也能完全識別路上的行人,我們同樣要強調安全文化,把人的安全放在第一位,而且不能把一切全部交給AI來控制和執行。在研發相關技術的同時,更要注重相關的安全風險管理,只有從意識上加以重視,才能真正防患于未然。

【科技云報道原創】

微信公眾賬號:科技云報道

(免責聲明:此文內容為第三方自媒體作者發布的觀察或評論性文章,所有文字和圖片版權歸作者所有,且僅代表作者個人觀點,與極客網無關。文章僅供讀者參考,并請自行核實相關內容。投訴郵箱:editor@fromgeek.com)

來源:科技云報道

標簽云計算
  • 科技云報道
    郵箱:caoceng@fromgeek.com
    有10年以上科技在記者、云計算專家傾情加盟,世界500強與4A公司營銷人所組成的前沿科技媒體,深入報道云計算、人工智能、大數據、AR/VR等垂直領域
    分享本文到