新式隱身術：只要在肚子上貼一張圖片，AI就當你不存在

來源丨量子位（ID：QbitAI）

作者 | 栗子

有沒有過一個瞬間，你恨不得自己變成一團空氣？

物理上做不到，真是遺憾。

但現在，你可以在AI面前練成“隱身術”，只要在肚子上貼一張圖片。

雖然肉眼看得到你在揮手，目標檢測算法已經當你不存在了：

劃重點，是隱身不是變身，AI沒有把你識別成其他物件，是全然忽視你的存在，只看到旁邊的兄弟。

如果，你想把隱身術傳給小夥伴，把“隱身衣”遞給他就好了：

這下，AI終於看出了你的身型，小夥伴就成了空氣。

被騙的這隻AI是目標檢測界的翹楚YOLOv2。騙它的兩位少年，來自比利時魯汶大學。

如此一來，是不是就能逃過智能監控系統，潛入某個空間，做奇怪的事情也不被察覺……人類真危險。

谷歌大腦的科學家David Ha安利了這篇研究，已有4,200多人類盛情點讚，大膽的想法也接二連三。

“什麽時候印成T恤啊？”

“對啊對啊，衛衣更好。”

不過，在圖片變成衣服的印花之前，還是先來看看圖上有什麽玄機。

這不是“烏龜變步槍”

大家可能早就聽過，烏龜變步槍的故事。

悄悄改動烏龜身上的紋路，人類看起來依然是烏龜，AI卻認成了步槍：

這樣的欺騙，就是著名的對抗攻擊(Adversarial Attacks) 。

比利時少年的隱身術，也是一種對抗攻擊，但和前輩們非常不同。

最主要的差別在於，人類和從前那些加了紋理的物體 (比如停車標誌) 不一樣：雖然每個人都是人，但個體之間差異很大。

在這樣多變的情況下，少年們依然成功生產出了通用的對抗圖像，並非針對某個人類而設計，穿在誰身上都有隱身功效，YOLOv2看不到。

他們用了三步的優化 (Optimization) ，來解決這個問題：

·首先要保證，定製的紋理圖列印出來還能被AI捕捉到。如果紋理用到了許多列印不出的顏色，就不太樂觀了。所以，要測量一個“不可列印”的分值。

·第二要保證，定製紋理圖上的顏色過度平滑，避免噪點過多。所以，需要測量一張圖像的總變化值 (Total Variation) ，任意兩個像素的色彩越相近，這個值就越小。

·第三最重要，就是讓YOLOv2看不出人來。也就是讓AI給出的分類結果，分值降低，變成不太確定的分類。

那麽問題來了，怎麽才能讓AI的檢測便得不自信呢？

這和YOLOv2的工作原理有關：它會輸出一個目標存在感 (Objectness) 的分值，和一個類別 (Class) 的分值。

而團隊的目標，一是要降低“人類”這個類別的分值，二是不能讓其他類別的分值超過“人類”。

比如，一個數據集裡有“泰迪熊”這個類別，而另一個數據集裡沒有。如果是“泰迪熊”的分值超過“人類”，就沒辦法推廣到另外的數據集裡去了。

最終，團隊沒有選擇降低“人類”的分值，而是直接降低了目標的存在感(Objectness) 。這樣，就不會有其他類別取代“人類”了。

你看，如果想屏蔽街上的情侶：

炫彩的對抗貼紙，就是直接降低存在感的結果，從幾種方式中脫穎而出，把識別人類的準確率降到了26%。

開頭展示的，把隱身衣直接穿在身上，比貼在視頻裡的隱身難度更大，但依然成功了：

隱身T恤雖好，但以後可能就不用穿衣服，有全息投影的服裝了喲，谷歌大腦的研究員說。

如果你還有什麽偉大的想法，有開源代碼在這裡，自己生成對抗圖像：

https://gitlab.com/EAVISE/adversarial-yolo

論文傳送門：

https://arxiv.org/abs/1904.08653

果殼

ID：Guokr42

整天不知道在科普些啥玩意兒的果殼

我覺得你應該關注一下

別隱身了，先點個“在看”吧