安全研究人員通過機器學習偽造CT掃描結果中的癌細胞節點

當我們獲得CT或MRI掃描時，我們希望結果是準確無誤的。畢竟我們正在談論的是可能花費數百萬美元的設備和經過多年培訓或具有幾十年經驗的放射科醫師。然而，醫院安全性可能很寬鬆，研究人員現在已經證明他們可以使用生成性對抗網路（GAN）偽造CT和MRI掃描結果。

以色列研究人員製造的惡意軟體可以很好地改變CT和MRI掃描結果，從而「愚弄」放射科醫生。深度學習軟體可以創建逼真的假冒惡性腫瘤，或者可以近乎實時地隱藏掃描結果的真實情況。

「我們使用3D條件GAN實施攻擊，並展示框架（CT-GAN）如何實現自動化，」Yisroel Mirsky、Tom Mahler、Ilan Shelef和Yuval Elovici在他們的研究中表示。「雖然身體很複雜，3D醫學掃描非常強大，但CT-GAN可以實現真實的結果，可以在幾毫秒內完成。」

在盲法研究中，使用70次改變的肺部掃描結果，該軟體幾乎每次都會欺騙3名經驗豐富的放射科醫師。在他們看到假的癌細胞生長的情況下，他們認為存在癌細胞節點的幾率為99%。在惡意軟體清除了實際腫瘤的掃描中，他們認為不存在腫瘤的幾率為94%。

然後，研究人員對用於檢測圖像中肺癌的軟體進行了測試，放射科醫生使用該軟體確認自己的診斷。其百分之百地誤診了假結節。

「我感到非常震驚，」參加這項研究的加拿大放射學家Nancy Boniel告訴《華盛頓郵報》。「我覺得地毯是從我身下拉出來的，而我卻沒有必要的工具向前移動。」Yisroel Mirsky、Yuval Elovici和以色列Ben-Gurion大學網路安全研究中心的另外兩人創建了惡意軟體，以強調缺乏安全保護的診斷設備和其他醫院系統。該軟體專為本研究而設計，因此對醫療保健行業而言並非存在危險。然而，他們確實將其視為醫院、醫生和放射科醫師未做好準備的風險的明確例證。

研究人員擔心這種攻擊可能會干擾政治對手或更糟。

「攻擊者可能會採取這種行為，以阻止政治候選人，破壞研究，實施保險欺詐，實施恐怖主義行為，甚至謀殺，」Mirsky等人的研究中寫道。

他們表示，惡意方可以使用中間設備來解決攻擊。他們使用Raspberry Pi 3 在他們的視頻中展示了這樣的攻擊，他們以大約40美元的價格購買了它。由於從CT或MRI掃描儀傳輸的數據未加密，攻擊者可以輕易偽造掃描結果，然後將掃描結果發送回接收伺服器。

解決問題看起來就像加密網路上的數據一樣簡單。然而，FDA的科學與戰略合作夥伴關係副主任Suzanne Schwartz MD表示，並非如此簡單。

Schwartz說道：「這需要的改變遠遠超出設備，而是需要改變網路基礎設施。許多醫院沒有將資金用於投資更安全的設備，或者他們有20年歷史的基礎設施，不支持更新的技術。這是吸引和參與其他當局並試圖將整個社區團結在一起變得非常重要的地方。」

至於對這種攻擊的受害者造成的後果是，虛假掃描結果可能導致患者接受手術或化療。此外，有很多副作用可能會給患者帶來麻煩。

「在我們接受某人接受手術[或管理化療]之前，有幾個步驟，」加州大學聖地亞哥分校急診室醫師Christian Dameff說道。「但無論如何，患者仍然受到傷害。[從了解到你可能患有癌症]存在情緒困擾，並且存在各種各樣的保險問題。」