一家科技公司,因?yàn)椤办`異事件”上熱搜,這事就挺魔幻的。
一輛特斯拉Model 3,大白天的停在一個空曠無人的墓地里,車主一低頭發(fā)現(xiàn)中控屏AP顯示區(qū)域內(nèi),車頭前方出現(xiàn)幾個人影在做無規(guī)則運(yùn)動,這意味著車輛識別到了前方有行人存在,但車主抬起頭又發(fā)現(xiàn)前方除了草坪和墓碑啥也沒有,瘆人不。
![]()
這只是起特斯拉“靈異事件”中的一例,其他還有,比如夜深人靜無人道路上,行駛中的特斯拉突然緊急剎停,原因是AP檢測到了障礙物,但實(shí)際上前方啥也沒有;又比如,在隧道內(nèi)行駛的特斯拉,中控屏AP顯示有輛大巴緊跟在后面足有數(shù)分鐘,但車主看了眼后視鏡又是啥也沒發(fā)現(xiàn)的諸如此類“靈異事件”。
發(fā)現(xiàn)沒有,這些事件每一次都和特斯拉的AP有關(guān)系,是不是可以總結(jié)一個規(guī)律了,或許是特斯拉AP系統(tǒng)強(qiáng)大的感知能力,檢測了到某種自然世界不存在的東西呢?先別急著舉報(bào),聽我給你講完另外一個“靈異故事”。
這個“靈異故事”在某汽車品牌產(chǎn)品質(zhì)量不太好的一段時間里傳播很廣,內(nèi)容是這樣:又是月黑風(fēng)高夜深人靜的一個晚上,某品牌車主獨(dú)自駕著車,在空蕩蕩的林間公路上等紅燈,紅燈變綠給油起步,而就在車輛剛過路口時,突然車內(nèi)警報(bào)聲響了,這位獨(dú)自駕車的某品牌車主低頭一看,儀表盤顯示著“后排有乘客未系安全帶”…
驚不驚悚,刺不刺激,但相信你也看出來了這個“靈異故事”就是一段子,它調(diào)侃的對象是這個汽車品牌糟糕的產(chǎn)品質(zhì)量。
![]()
同樣,特斯拉的“靈異事件”背后和靈異兩字也扯不上半毛錢關(guān)系,發(fā)現(xiàn)這類事情的原因只能有一個,那就是特斯拉的AP出現(xiàn)了問題。
關(guān)于自動駕駛的可靠性,其實(shí)遠(yuǎn)比想象中要脆弱,甚至只要你想,讓智能駕駛直接變身智障駕駛真的不是很難,尤其是對走純視覺方案的特斯拉來說,以上靈異事件的發(fā)生只能說特斯拉的AP又被欺騙了。
這里面有幾個典型事例,比如科恩在一條正常的道路行駛線中央斜放置了三個小小的白色紙片,這些白色紙片幾乎透明如果是人類駕駛員甚至很難發(fā)現(xiàn)它,然而就是這幾枚紙片導(dǎo)致一輛開著AP的特斯拉Model S在經(jīng)過此地時,主動向左偏轉(zhuǎn)了方向駛?cè)肓藢ο蜍嚨馈?/span>
對此,科恩實(shí)驗(yàn)室的說法是他們發(fā)現(xiàn)僅通過物理手段,就可以做到對特斯拉的AP實(shí)施攻擊,其背后的原理是“對抗性補(bǔ)丁”。
具體邏輯是這樣的:AI視覺識別系統(tǒng)是依賴訓(xùn)練神經(jīng)網(wǎng)絡(luò)來識別目標(biāo)的,也就是需要提供大量的樣本來參考,但也依然會存在部分樣本無法識別或者誤判的現(xiàn)象,這部分樣本被稱之為“對抗性補(bǔ)丁”,而一旦正常需要識別的目標(biāo)中出現(xiàn)了“對抗性補(bǔ)丁”,那么誤判或者無法識別的現(xiàn)象就會出現(xiàn)。
![]()
關(guān)于這個,科恩實(shí)驗(yàn)室還做了另一個實(shí)驗(yàn),即利用人工智能對抗樣本生成技術(shù),生成了一副特定圖像,這幅圖像在人類看來幾乎毫無意義,然而但當(dāng)特斯拉面對這張圖像的時候,自動雨刷開啟了。
這些都是“對抗性補(bǔ)丁”對特斯拉成功實(shí)施攻擊的例子,其實(shí)這些看起來還是比較困難,因?yàn)橐龀晒?,首先需要了解如何制造“對抗性補(bǔ)丁”,一般人并不容易知曉。
但是通過更簡單粗暴的方式,就把特斯拉AP忽悠瘸的例子也有。
比如去年有研究人員僅用一截2英寸長黑色膠帶對路邊限速標(biāo)示做了略微改動,結(jié)果成功讓特斯拉AP從限速35km/h行駛加速到限速85km/h行駛。還有人在路邊架起一臺投影儀對路邊樹叢投射了一個限速標(biāo)示,結(jié)果又讓特斯拉AP成功中招了。
![]()
綜合以上,為啥特斯拉AP這么容易好騙呢?這里面首先一個原因是特斯拉是走視覺識別的單車路線的,這需要對軟件算法有著非常深的依賴性,可以說從算法上解決視覺信息的準(zhǔn)確處理來做到自動駕駛,就是特斯拉AP的絕對核心技術(shù)。
但遺憾的是軟件算法總會有漏網(wǎng)的Bug存在,就像前文的各種“靈異事件”,就顯然是視覺識別中的軟件算法出現(xiàn)了誤判。
本來激光雷達(dá)會是對這種視覺識別方案很好補(bǔ)充,因?yàn)閿z像頭對3D物體識別能力很差,且易受逆光、黑暗等環(huán)境影響;毫米波雷達(dá)的優(yōu)勢在于測速、測距,但卻不適用目標(biāo)識別,尤其是靜態(tài)目標(biāo)識別等工作。
![]()
但激光雷達(dá)對動態(tài)障礙的檢測跟蹤,以及對周圍環(huán)境的3D建模能力正是依賴于算法識別的攝像頭和毫米波雷達(dá)的軟肋,理論上有了激光雷達(dá)這種高級傳感器的存在,實(shí)際上是可以很大程度上彌補(bǔ)軟件算法的不足,甚至只要算法跟得上,效果可能要比純視覺方案更加好。
一個很典型的例子,臺灣高速特斯拉撞擊白色貨車事件就是攝像頭看不清,而毫米波雷達(dá)又無法準(zhǔn)確識別目標(biāo)是什么,在算法層面前方大貨車的存在就被過濾掉了,于是乎特斯拉一頭撞了上去。而如果此時有激光雷達(dá)加持的話,完全可以識別前方的確有一個固定障礙物,然后成功規(guī)避。
![]()
但馬斯克頭鐵,始終堅(jiān)持不用激光雷達(dá),堅(jiān)持視覺方案一條路走到黑,過度依賴于算法識別,可是算法本身又是無上限的,它需要極其龐大的數(shù)據(jù)喂養(yǎng),盡管特斯拉已經(jīng)有“影子模式”了,但顯然還遠(yuǎn)不夠。
而且目前受限于算法的瓶頸,過度依賴于視覺方案的特斯拉還屢屢被一些非常低級的欺騙手段戲弄,以至于出現(xiàn)“鬧鬼”的笑話。不過總之,這些事情發(fā)生再一次證明了一件事,未來,高級別的自動駕駛或許對于高精地圖以及V2X車路協(xié)同的依賴是必須的,因?yàn)閮H靠單車路線的視覺+算法的方案,也太不靠譜了。