CSIRO研發新技術可讓自動駕駛神經網絡對黑客攻擊免疫

蓋世汽車訊 據外媒報導，澳大利亞國家科學研究局（CSIRO）研發出一種編程技術，該技術的工作原理與疾病預防疫苗接種類似，能夠保護機器學習系統免受惡意的網絡攻擊。

現代社會中，機器學習系統（或稱神經網絡）正變得越來越流行，而且被廣泛應用於交通管理、醫療診斷和農業等各個領域，此外，它們還是自動駕駛汽車的關鍵部件。

從最初的訓練階段開始，機器學習系統會在給定的任務中重複運行成千上萬次，然後，得出的算法才具備學習的能力，被添加至其計算機指令系統，並據此采取行動，無需進一步的人工操作。

儘管機器學習系統與其他由計算機驅動的機制一樣，效率很高，但是，此類系統仍然容易受到黑客攻擊。黑客攻擊的主要方式就是引入“噪音”（額外的數據點，以干擾和扭曲輸入信號），從而使外部元素被錯誤地分類。

此類黑客攻擊術語稱為將“對抗性實例”引入該系統，通過添加噪音，機器學習算法將會被誤導，無法正確對熊貓和長臂猿的圖像進行分類。此外，隨著自動駕駛汽車的興起，一旦自動駕駛汽車的機器學習系統被入侵，該系統可能會將停車標誌誤分類為綠色交通信號燈。

因此，讓機器學習系統能夠抵禦黑客攻擊一直是一個活躍的研究議題。而最新抵禦方法是由Richard Nock從公共衛生方面汲取的經驗。

在醫學上，接種疫苗建立在這樣一個理念上，即讓身體的免疫系統暴露在虛弱或已經死亡的病原體（例如，導致流感或脊髓灰質炎的病原體）環境中，可以促進免疫系統產生特定的抗體，隨後，免疫系統會“記住”病原體，下次遇到時，免疫系統會認出病原體並全力將其立馬清除。

Nock和同事也采取了相同的方法。Nock解釋表示：“我們的新方法使用了類似於疫苗接種的過程來預防黑客攻擊。我們先打造一個較弱的黑客攻擊，例如小幅度地修改或扭曲圖像，以創造一個更加複雜的訓練數據集。當該算法的訓練數據暴露在小幅度的失真或修改環境中，得到的模型就會更加強大，對此類黑客攻擊免疫。”

雖然該方法還處於研究早期階段，還未在現實世界中進行測試，以對抗惡意黑客入侵，但是將會是一個非常有前景的方法。