歸剛誒AI

歸剛欸,AI 又進步了——每天幫你盯 AI 圈的台灣人日報

← 回首頁 · 回第 30 期(2026-07-09)
資安・2026-07-09

9 款熱門 AI 工具可被用來組殭屍網路:新攻擊手法「HalluSquatting」

9 款熱門 AI 工具可被用來組殭屍網路:新攻擊手法「HalluSquatting」

一份安全研究揭露一種新攻擊手法,取名 HalluSquatting,指出九款最熱門的 AI 工具都可能被利用來組建大規模殭屍網路(botnet)。核心弱點是大模型那個老毛病——不願意說「我不知道」,遇到不確定的東西也硬要編一個看似合理的答案,也就是所謂的幻覺(hallucination)。

攻擊的巧思在於把幻覺武器化。當你請 AI 助理幫你寫程式、裝套件,它常會「順口」推薦一個聽起來很像真的、實際上並不存在的軟體套件名稱。攻擊者只要事先去搶註冊這些「模型最愛幻想出來的名字」,把惡意程式碼塞進去,那麼每個信任 AI 建議、照著安裝的開發者,就等於自己把後門請進機器——大量受害機器串起來就是殭屍網路。

這個手法之所以危險,在於它繞開模型本身的漏洞,專鑽「人會信任 AI 輸出」的空子。九款熱門工具全中,說明問題是結構性的:只要模型還會一本正經地胡謅套件名,這條攻擊路徑就一直開著。它也把「AI 幻覺只是準確度問題」的認知,直接升級成資安問題。

歸剛點評:這招陰險就陰險在利用信任。以前叫你別亂裝來路不明的套件,現在連 AI 好心推薦的都要查——因為那個名字可能是它幻想出來、又被壞人搶先佔坑的陷阱。給開發者的教訓很實際:AI 給的套件名、指令,安裝前務必自己核對一遍,別把它的自信當成正確。

歸剛點評|把 LLM 幻覺武器化,鑽的是人對 AI 輸出的盲目信任,繞開模型漏洞本身,這是結構性風險。
來源:Ars Technica

同期其他文章