坦克變“奶牛”！美軍研發數字偽裝可欺騙人工智能系統

英國《新科學家》周刊網站6月22日發表了題為《美國正在研製數字偽裝，這樣人工智能將識別不出間諜飛機》的報導，稱美軍正在研發的一種新型數字偽裝可以使坦克看起來像奶牛或讓戰機變成雲朵——當然，只有“觀察者”是計算機時才能這樣。

報導指出，自動識別物體的人工智能系統具有致命弱點。經過略微調整的圖像——稱為“惡意樣本”——就能夠以對人類來說非常荒謬的方式欺騙它們，讓它們錯誤地識別成另一種物體。一個塑料烏龜的“惡意樣本”會被人工智能誤認為是步槍和眼鏡框。

現在，位於弗吉尼亞州的美國海軍研究局打算在軍事載具上使用數字偽裝技術，以迷惑人工智能系統，比如把坦克誤認成汽車，或者根本識別不出來，使它們在雷達螢幕上“隱身”。

報導稱，美國海軍沒有透露這一項目的更多細節，但已將第一階段的合約交給了3家公司。該階段將重點關注理論背景和技術的成熟。

第二階段將擴展到用來偽裝飛機和汽車的“欺騙工具”，比如貼紙或用來噴塗的模板。美國海軍在項目描述中寫到：“一支（美軍）部隊可能希望迷惑敵方的偵察系統，讓後者將本田思域轎車誤認為是坦克或者反之。”

報導認為，這項工作將帶動美國海軍的圖像識別計劃，以設法避免己方系統也遭到同樣的愚弄。

麻省理工學院的阿尼什·阿塔爾耶說，大多數工作都涉及“白盒”方法，攻擊者完全了解正在受到攻擊的系統，所以他們知道如何調整圖像，但即便這一系統是個不了解的“黑盒”時，它仍是非常脆弱的。

報導稱，對一個未知系統創造惡意圖像的方法是：先對一個已知系統創造惡意圖像，並希望它們(在面對未知系統時)仍能奏效。