美國政府逼 Anthropic 下架兩款最新模型:Fable 5、Mythos 5 因國安疑慮緊急撤回,資安圈連署喊危險
上週進入尾聲時,美國政府要求 Anthropic 把才剛推出的兩款最新模型 Fable 5 與 Mythos 5 撤下來,理由是國家安全。導火線是 Amazon 的研究員聲稱找到一條繞過 Fable 5 安全護欄的路徑,能讓模型吐出原本被擋住的內容,政府因此認定風險過高,要求暫停釋出。對一家把安全當招牌的公司來說,被自家投資方 Amazon 的團隊抓到漏洞、再被政府點名下架,是相當難堪的一週。
事情沒有就此一面倒。多位資安研究者隨後連署一封公開信,認為政府這一步反而危險,因為強行把模型下架並不會讓漏洞消失,只會讓研究者更難公開檢視與修補。Anthropic 自己也出面說明,同一類越獄手法在市面上其他大型模型同樣存在,把單一公司的單一版本拎出來開刀,等於選擇性執法,對整體防護幫助有限。爭點因此從「Fable 5 安不安全」擴大到「政府該用什麼標準管模型」。
從 TechCrunch 的觀察角度看,這場下架在數字上似乎沒傷到 Anthropic 的聲量,被禁反而帶來更多討論度,品牌能見度不減反增。但對整個產業來說,真正的訊號是監管的手已經伸到「發表後可被勒令撤回」這一層,門檻與程序卻沒講清楚。對照本站第九期談過的「海外閉源模型隨時可能被斷線」,今天這條把風險講得更白:就算模型沒被外國封鎖,也可能被自家政府按下暫停鍵。
對台灣與華語圈的團隊,這是一記提醒。把關鍵流程綁死在單一家、單一版本的雲端閉源模型上,等於把命運交給對方公司加上對方政府兩道閘門。多備幾條後路、留一份可自行部署的開源替代方案,會在這種突發時刻顯得格外值錢。
歸剛點評|監管首次示範了「模型上市後仍可被勒令撤回」,但標準與程序模糊,等於替全產業立下一個沒寫清楚的規矩。對依賴閉源 API 的團隊是直接的供應鏈風險。