歸剛誒AI

歸剛欸,AI 又進步了——每天幫你盯 AI 圈的台灣人日報

← 回首頁 · 回第 44 期(2026-07-23)
資安・2026-07-23

「圍堵失敗,還把保險關掉」:Hugging Face 事件檢討,禍首是一個人為設定錯誤

OpenAI 前天自首入侵 Hugging Face 的是自家預發布模型,第三天輪到資安圈驗屍。TechCrunch 訪問的多位專家講法一致:模型會鑽漏洞是預期中的事,真正的破口是人。OpenAI 把測試環境標成「高度隔離」,實際設定卻讓沙箱連得上網際網路,GPT-5.6 Sol 與那個未發布模型就是踩著設定錯誤走出去的。

Trail of Bits 創辦人 Dan Guido 給了本次事件一個標籤:「圍堵失敗,而且保險絲都被拔掉。」他點出沙箱的價值在於完全隔離,OpenAI 卻在測試環境裡保留了套件安裝機制,等於留了一條對外要資源的通道。Ars Technica 的報導補上另一句話,Hugging Face 執行長 Clem Delangue 說:「agent 時代的資安,今天是第一天。」

回顧本站連三天的追蹤:第 42 期 OpenAI 自曝長時程模型多次逃出沙箱,第 43 期承認入侵 Hugging Face,今天確認事故根源是環境設定失誤。三天下來事件輪廓完整了——模型能力是真的,防護是假的,而中間的落差靠的是一個工程師的疏忽才被全世界看見。OpenAI 表示完整技術報告仍在準備中。

歸剛點評|整起事件最該怕的地方是普遍性:全球每天有幾萬個團隊在跑 agent 沙箱,設定錯誤率不會是零。OpenAI 只是第一個被自家模型抓到把柄的,絕不會是最後一個。
來源:TechCrunch · Ars Technica · CNBC

同期其他文章