一只皮卡丘蹦到馬路中央，自動(dòng)駕駛能認(rèn)出它么？

自動(dòng)駕駛的歷史中曾出現(xiàn)過(guò)這么一則奇怪的事故：2016 年美國(guó)佛州的高速公路上，司機(jī)約書亞?布朗開啟特斯拉自動(dòng)駕駛（Autopilot）模式，接著雙手離開方向盤。

在一個(gè)路口，一輛白色卡車向左拐彎，正巧遇上布朗駕乘的特斯拉。

據(jù)當(dāng)時(shí)的目擊者稱，當(dāng)白色卡車出現(xiàn)在面前時(shí)，布朗的特斯拉依然全速行駛，并徑直撞上卡車的底部。調(diào)查顯示，當(dāng)時(shí)特斯拉的時(shí)速是每小時(shí) 119 公里。

布朗當(dāng)場(chǎng)死亡。

但特斯拉依舊繼續(xù)行駛，并逐漸偏離道路，直到撞上兩個(gè)圍欄，以及一根電線桿后，才停下。

官方對(duì)這場(chǎng)事故的解釋是：“無(wú)論是自動(dòng)駕駛儀，還是駕駛員，都沒(méi)有注意到拖車白色的一面映襯著明亮的天空，所以沒(méi)有剎車?！币簿褪钦f(shuō)，自動(dòng)駕駛將陽(yáng)光下的白色貨車，認(rèn)成了天空。

而這之后的五年里，又有至少三輛特斯拉，朝著白色卡車全速?zèng)_去 —— 似乎自動(dòng)駕駛依然無(wú)法分辨白色的巨物與發(fā)光的天空。

在自動(dòng)駕駛的眼睛里，世界總是不太一樣。

自動(dòng)駕駛怎么看世界？

自動(dòng)駕駛的眼睛主要由毫米波雷達(dá)、激光雷達(dá)和攝像頭等傳感器擔(dān)任。

毫米波雷達(dá)利用電磁波的反射，測(cè)量物體的距離、速度等物理信息。它的抗干擾能力強(qiáng)，探測(cè)距離遠(yuǎn)，適合在雨雪風(fēng)沙等惡劣的天氣下使用。它還可以隱藏式安裝，不影響車輛的整體外觀。但它無(wú)法測(cè)量高度，世界在它眼里是扁平的。

激光雷達(dá)則可以看到 3D 的世界，與毫米波雷達(dá)類似，激光雷達(dá)也是通過(guò)發(fā)送脈沖 — 接受反射的方式計(jì)算物體的距離、速度等信息。但激光雷達(dá)的波長(zhǎng)更短，意味著分辨率更高，它的測(cè)量會(huì)更加精準(zhǔn)。激光雷達(dá)每秒發(fā)出數(shù)千個(gè)脈沖，通過(guò)計(jì)算不同角度的反射光波，激光雷達(dá)可以還原出目標(biāo)物體的三維立體圖像。

但想知道眼睛里的東西是什么，還是要交給攝像頭。在算法的加持下，攝像頭可以識(shí)別出前面的是人、動(dòng)物還是建筑，不過(guò)，依舊是以 2D 的形式，像是看照片那樣。

目前主流的識(shí)別方案是多傳感器融合，像國(guó)內(nèi)某些代表性車型，會(huì)擁有 5 個(gè)高精毫米波雷達(dá)，13 個(gè)車外攝像頭和 1 個(gè)車內(nèi)攝像頭。

而特斯拉則堅(jiān)持只用使用攝像頭（在最新的更新中，特斯拉甚至放棄了車上最基礎(chǔ)的超聲波雷達(dá)，真的實(shí)現(xiàn)了全車無(wú)雷達(dá)純視覺(jué)），理由是擔(dān)心雷達(dá)和攝像頭感知不一致時(shí)，汽車會(huì)不知道該相信誰(shuí)。但更基礎(chǔ)的理由是：一，純攝像頭方案成本更低；二，算法的突飛猛進(jìn)的確能夠彌補(bǔ)攝像頭相比雷達(dá)的劣勢(shì)。

但不管哪種路線最終勝出，傳感器都只能看見(jiàn)，要理解這些“看見(jiàn)”意味著什么，還是要靠感知算法。搭配不同傳感器傳來(lái)的信息，目前的算法可以知道汽車所處的位置和道路的模樣，理解交通信號(hào)燈，追蹤路上不斷出現(xiàn)的障礙物，還可以讀懂路標(biāo)上的文字。

“老實(shí)的自動(dòng)駕駛，已經(jīng)勝過(guò)新手司機(jī)”，一定程度上的確如此。

當(dāng)馬路中央蹦出一只皮卡丘

但當(dāng)一只皮卡丘蹦到馬路中央時(shí)，自動(dòng)駕駛一定是懵的。

這種“罕見(jiàn)又突發(fā)”的意外情況，在自動(dòng)駕駛行業(yè)中被稱為邊角案例（corner case, CC）。這是來(lái)自是系統(tǒng)測(cè)試中的一個(gè)術(shù)語(yǔ)，原意指出現(xiàn)多個(gè)參數(shù)都在極端情況下的情形。文章開頭的事故，就是一例典型的 CC。

CC 通常被分為五個(gè)層次，對(duì)應(yīng)著自動(dòng)駕駛認(rèn)知意外的不同復(fù)雜情況：某個(gè)像素點(diǎn)不清晰；場(chǎng)景從“習(xí)慣”切換成“不習(xí)慣”；出現(xiàn)不知名物體（但位置和目標(biāo)清晰）；位置和目標(biāo)也不明確；直至目標(biāo)、場(chǎng)景、環(huán)境的全面“意外”。

但任何一個(gè)小型 CC，都可能造成嚴(yán)重的后果。

大馬路上出現(xiàn)一只可愛(ài)的黃毛電氣老鼠，就是一種“未知物體”層面的 CC，識(shí)別失敗的后果要么是你遭受十萬(wàn)伏特電擊，要么是被精靈訓(xùn)練師爆錘。而真實(shí)世界中可能發(fā)生的事情只會(huì)更糟，沃爾沃的澳大利亞技術(shù)經(jīng)理在 2017 年曾爆料，自家公司的自動(dòng)駕駛不認(rèn)識(shí)袋鼠。

“汽車通過(guò)利用地面作為參考點(diǎn)來(lái)探測(cè)動(dòng)物，以確定物體的距離”，這位技術(shù)經(jīng)理說(shuō)，但當(dāng)袋鼠蹦蹦跳跳地穿行在公路上，蹦在空中時(shí)，自動(dòng)駕駛會(huì)將它識(shí)別成一件天空中的物體，判定它的距離比實(shí)際遠(yuǎn)很多；而當(dāng)袋鼠落地，自動(dòng)駕駛又會(huì)將它識(shí)別得比實(shí)際距離近一些。

我們可以想象一個(gè)澳大利亞的沿海公路上，幾只歡快跳躍的肌肉袋鼠旁，一輛自動(dòng)駕駛汽車不知所措地面對(duì)著眼中這忽大忽小忽遠(yuǎn)忽近的不明物體，停也不是，走也不是。

想想都替它感到害怕。

一只激光筆干翻自動(dòng)駕駛

下圖可見(jiàn)，目前主流的傳感器皆有其短板，都可造成對(duì)道路情況判斷的不準(zhǔn)確。

在傳感器的局限下，算法變得很容易被“欺騙”。

曾有人實(shí)驗(yàn)過(guò)，將一束普通的激光照射在有軌電車上，自動(dòng)駕駛就會(huì)把電車認(rèn)作青蛙；當(dāng)激光照射在海龜身上，海龜在自動(dòng)駕駛眼中就成了水母；如果激光再變換一下顏色，它還會(huì)把一條蛇，依次識(shí)別為襪子、麥克風(fēng)、菠蘿蜜、玉米，或熱狗腸。

有自動(dòng)駕駛的安全專家分析，這可能是因?yàn)樗惴▽⒓す馐念伾脖嬲J(rèn)為原有物體的一部分，比如當(dāng)波長(zhǎng)為 400nm 的激光束照射在“刺猬”上時(shí)，刺猬的刺與激光束引入的紫色結(jié)合后，會(huì)被算法最終辨認(rèn)為“刺苞菜薊”。

如此迷惑算法的成功率很高，在室內(nèi)和室外的測(cè)試中，成功率可以分別達(dá)到 100% 和 77.43%。而這樣的激光筆，二三十塊錢就能買到一只。

另一個(gè) CC 產(chǎn)生的重要原因，來(lái)自于目前圖像識(shí)別數(shù)據(jù)的無(wú)法窮舉。圖像識(shí)別的訓(xùn)練方法主要是人類塞資料，機(jī)器記憶和歸類。算法像一個(gè)記憶力超群的小孩，可以記住塞入的任何資料和場(chǎng)景，但它尚不是成熟變通的高手，交通標(biāo)示牌上黏了片樹葉、攝像頭上趴了只昆蟲、都有可能讓算法輸出截然不同的結(jié)果。

為什么 CC 這么重要？

自動(dòng)駕駛領(lǐng)域用“二八定律”形容解決 CC 問(wèn)題的重要程度 —— 要花 80% 的時(shí)間，才能解決這看似“罕見(jiàn)”的 20% 問(wèn)題 —— 他們說(shuō)，這是通向真正意義上自動(dòng)駕駛的必經(jīng)之路。

精確識(shí)別 CC，正確處理 CC，這其實(shí)是安全和效率（或者說(shuō)駕駛體驗(yàn)）平衡的問(wèn)題。人們都是期待自動(dòng)駕駛的絕對(duì)安全，卻也沒(méi)有人愿意接受每小時(shí)五公里還時(shí)不時(shí)頻繁剎車的自動(dòng)駕駛交通體驗(yàn)（況且低速與剎車同樣會(huì)帶來(lái)安全問(wèn)題）。

自動(dòng)駕駛的危險(xiǎn)和普及障礙不但來(lái)自于“有，但認(rèn)不出”，也會(huì)來(lái)自“無(wú)，但誤判了”。特斯拉曾經(jīng)的“幽靈剎車”事件就是一個(gè)典型。

一名特斯拉車主在舊金山行駛時(shí)，路上飄著只塑料袋。“突然，汽車好像鎖住了”，這名車主回憶，它的特斯拉從大約 40 公里每小時(shí)，突然自動(dòng)減速到 24 公里每小時(shí)，“但它立刻松開，因?yàn)樗芰洗崎_了“。

這名車主還比較幸運(yùn)，至少他的車沒(méi)有在舊金山車來(lái)車往的公路上突然剎車。2022 年 2 月至 6 月，美國(guó)國(guó)家公路交通安全管理局共收到了 404 起關(guān)于特斯拉莫名突然剎車的投訴。車主們用“幽靈剎車”形容這種遭遇 —— 在沒(méi)有危險(xiǎn)情況發(fā)生時(shí)，開啟自動(dòng)駕駛輔助模式的特斯拉突然剎車或減速，這會(huì)提升追尾事故的風(fēng)險(xiǎn)。

美國(guó)卡內(nèi)基梅隆大學(xué)專注于自動(dòng)駕駛汽車安全方向研究的教授菲爾?庫(kù)普曼分析，這或許是特斯拉的開發(fā)人員沒(méi)能正確設(shè)定汽車的決策閾值導(dǎo)致，特別是特斯拉的信息識(shí)別幾乎只依賴攝像頭，而沒(méi)有雷達(dá)等其他傳感器的輔助。

好消息是，如今，特斯拉通過(guò)算法優(yōu)化，已經(jīng)解決的智能剎車的問(wèn)題。但在我們通向“真?自動(dòng)駕駛”的路上，還有更多的奇特案例等待解決 —— 公路交通，本就是我們創(chuàng)造出的最復(fù)雜系統(tǒng)之一。

參考文獻(xiàn)

• [1] Duan R, Mao X, Qin A K, et al. Adversarial laser beam: Effective physical-world attack to dnns in a blink[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2021: 16062-16071.

• [2]http://jst.tsinghuajournals.com/CN/rhhtml/20180417.htm#outline_anchor_8

• [3]https://new.qq.com/rain/a/20220818A00WJL00

• [4]https://www.youtube.com/watch?v=PRg5RNU_JLk

• [5]https://equalocean.com/analysis/2022091918917 [6]https://thedriven.io/2021/07/13/it-can-see-dogs-the-big-reveal-from-teslas-radar-free-version-of-full-self-driving/

• [7]https://www.jianshu.com/p/5ab134804d4c

• [8]https://www.theguardian.com/technology/2016/jun/30/tesla-autopilot-death-self-driving-car-elon-musk

• [9]https://blog.csdn.net/maopig/article/details/107961922

本文來(lái)自微信公眾號(hào)：果殼 （ID：Guokr42），作者：睿悅，編輯：臥蟲，沈知涵

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。