每日最新頭條.有趣資訊

3D列印攻破無人車雷射雷達,這個奇怪的盒子它看不見

曉查 發自 凹非寺

量子位 報導 | 公眾號 QbitAI

深度神經網絡容易受到某些對抗樣本的攻擊,比如圖像分類網絡,只需在圖中加入一點微小的擾動,就能讓它把熊貓當成長臂猿。

如果把對抗攻擊用在自動駕駛汽車上,稍微修改一下路邊的交通標誌,它就會犯錯。

上面所說的對抗攻擊都是針對二維圖像。那麽用探測三維物體的雷射雷達(LiDAR)就可以避免這個問題嗎?

來自密歇根大學百度研究院UIUC的研究人員發現,一些特殊的3D形狀也會令雷射雷達受到對抗攻擊,讓它錯誤地把某些物體當做行人,甚至視而不見。

這項研究揭示了基於自動駕駛系統的潛在漏洞,並提出了一種LiDAR-Adv方法,生成可以在各種條件下逃避雷射雷達檢測的對抗物體。

看不見的奇怪盒子

研究人員把兩種不同的盒子擺在路中央:

方形的快遞盒子,自然逃不過雷射雷達的法眼,自動駕駛汽車可以成功識別並繞過它。

下面的是研究人員基於LiDAR-Adv用3D列印製造的盒子,在百度的Apollo無人駕駛平台(V2.0)上進行測試,結果雷射雷達會把它當做是行人。

在其他實驗中,雷射雷達甚至無法檢測到75厘米大小的物體。

在Apollo平台上進行的實驗證實了,不僅是理論上,現實世界中的雷射雷達也確實存在著漏洞。有些奇形怪狀的盒子無法被雷射雷達“看見”。

生成對抗樣本

盒子明明就在那裡,為什麽會被視而不見呢?雷射雷達並不是直接生成物體的三維圖像,而是掃描空間中的點雲(point cloud),將點雲饋送到機器學習系統,從而還原出物體。

雖然我們知道雷射雷達的工作原理,但是要生成對抗樣本並不容易。首先機器學習是一個黑盒系統,形狀的擾動如何影響掃描點雲還不清楚;其次點雲的預處理是不可微分的,無法使用基於梯度的優化器。

研究人員提出的LiDAR-Adv解決了上述問題。他們模擬可微分的雷射雷達渲染器,將3D對象的擾動連接到雷射雷達掃描的點雲;然後使用可微分的代理函數來制定3D特徵聚合;最後設計不同的損失以確保生成3D對抗物體的平滑度。

在大小為50厘米的物體上,LiDAR-Adv可以達到71%的攻擊成功率,高於進化算法的黑盒攻擊,在更大尺寸的物體上也一樣。

另外LiDAR-Adv生成的對抗物體還可以改變標簽,讓雷射雷達把某些物體誤檢測為行人。

LiDAR-Adv的實驗結果足以引起了人們對雷射雷達系統安全性的擔憂,百度研究人員希望這項工作能夠揭示潛在的防禦方法。

論文地址:

https://arxiv.org/abs/1907.05418

AI社群 | 與優秀的人交流

小程序 | 全類別AI學習教程

喜歡就點「在看」吧 !

獲得更多的PTT最新消息
按讚加入粉絲團