深度學習被譽為一個革命性的工具，在放射學支持更快、更準確、更詳細的臨床建議。

幾乎每天研究人員都會發布新的研究結果，顯示人工智能有可能幫助人類工作，其中許多模型已經達到或者超過了訓練有素的醫生的能力。

但是，如果好奇的研究人員或者圖謀不軌的人把這些成果用來對付他們應該幫助的臨床醫生，那該怎么辦?

利用深度學習偽造醫學圖像并不困難

以色列一個研究小組的一項新研究表明，利用深度學習來偽造癌癥腫瘤的醫學圖像，并在大多數情況下能夠很輕松的騙過即使是最好的放射科醫生。

這個團隊解釋了如何成功地滲透到一個典型的醫療系統的PACS(影像歸檔和通信系統)中，并使用一種叫做生成對抗性網絡(GAN)的機器學習的惡意軟件來改變MRI或CT掃描圖像，從而讓正常人的圖像中出現腫瘤或者讓癌癥病人的圖像中移除真正的癌癥。

這些在政治和社會領域日益受到關注的“Deep fake”可能會對患者的治療結果產生重大影響。

研究小組解釋說：“由于3D醫學掃描成像是醫生判斷患者病情的強有力證據，因此能夠對掃描進行攻擊的黑客將有能力改變病人的診斷結果。”

例如，黑客可以增加或消除動脈瘤、心臟病、血栓、關節炎、軟骨問題、腦、心臟等其他癌癥證據。

進行這種攻擊有很多動機，研究人員表示，黑客可能希望通過嚴肅的健康診斷來影響選舉結果或推翻政治人物，甚至他們可能會更大規模地改變醫療圖像，并持有原始數據以索取贖金。

個人可以利用這些策略進行保險欺詐或隱瞞謀殺，研究人員或藥物研發人員可以偽造他們的數據來獲得想要的結果。

研究小組指出，數百個常用的PACS系統都有不安全的網絡連接，可以提供一個簡單的攻擊載體，醫療保健黑客的創造力似乎是無止盡的。

惡意偽造數據后果重大

研究人員使用一臺低于50美元的普通電腦Raspberry Pi對一家真實醫院的系統進行了模擬攻擊。

“Pi 配置了一個usb到以太網適配器，并配置為無源網橋(沒有網絡標識符) ，”研究小組說。 “Pi 還被配置為一個用于后門訪問的隱藏 Wi-Fi 接入點。”

“我們還打印了CT掃描儀制造商的3D 標志，并把它粘在圓周率儀上，使它不那么引人注目。”

雖然參與的醫院完全了解該小組的活動并同意進行試驗，但是醫院還是被這種低成本的巨大破幻力感到吃驚。醫療保健組織對黑客實際安裝硬件并進入網絡的方便程度感到擔憂。

同樣令人擔憂的是深度學習模型所產生的的圖像的真實性。即使放射科醫生知道圖像可能已經被改變，他們也很難辨認出圖像哪里被改變了。

當三位經驗豐富的臨床醫生沒有被告知他們看到的是“偽造”的肺癌腫瘤圖像時，他們99%認為這是癌癥。

“當被問及這個問題時，除了放射科醫生注意到一個移除區域有一些異常外，其他兩位醫生沒有發生任何異常。”研究小組說道。

放射科醫生也確信這種“偽造”的圖像是非常嚴重的。

“至于偽造的癌癥，放射科醫生的共識是，三分之一醫生表示需要立即進行手術，所有醫生表示都需要后續治療。”

對于消除了真實腫瘤的圖像，94%的放射科醫生沒有發現任何問題。即使放射科醫生被警告說有些圖像可能被改變，但是他們仍然會犯錯誤。臨床醫生沒有注意到他們看到的腫瘤有61%是假的，87%的醫生沒有發現真實的腫瘤已經被消除。

此外，參與的放射科醫生對于他們的決定并不是很有信心。當被問及他們是否確診了真假癌癥時，所有的臨床醫生都表現出了嚴重的懷疑。

這種方法甚至100%愚弄了一個基于人工智能的臨床決策支持工具。這讓那些人工智能的支持者感到震驚，但是他們相信人工智能可以更有效地發現人為錯誤，并提高決策的準確性。

保護醫療數據刻不容緩

隨著人工智能變得越來越復雜、醫療系統中勒索軟件攻擊和數據泄露事件的增加，這些卑鄙的、創新性的威脅可能會變得越來越普遍。

公司和組織不得不小心翼翼地保護他們的基礎設施，并付出極大的代價來幫助人們如何在一個深度學習可以用來篡改幾乎任何東西的世界中辨別真相。

“這篇論文就是想告訴人們一個事實，并警醒他們：如果人類專家和先進的人工智能完全相信他們的觀察結果，他們就有可能被愚弄。”研究小組繼續說道，“我們希望這篇論文和補充的數據能夠幫助產業界和學術界應對這一新出現的威脅。”

關鍵詞：