Fable 上線第二天:護欄太緊跟太鬆,兩邊同時開罵
Claude Fable 5 的「雙用途能力安全措施」上線第二天就被兩邊夾擊。TechCrunch 報導,資安研究員集體抱怨護欄嚴格到正當工作做不下去:滲透測試、惡意程式分析、弱點研究這些日常業務,模型一概拒絕,逼得從業者考慮回頭用舊模型或對手產品。對企業用戶來說,模型升級反而造成工作流程倒退,是過去幾代發布沒出現過的場面。
另一邊,The Verge 實測發現更尷尬的場面:Anthropic 發布時誇耀 Fable 5 的生物能力,但問它高中生物等級的基礎問題,它會直接拒答、把問題轉手丟給前代旗艦模型處理。防生物武器濫用的閘門,把普通的生物課內容也一起關在外面。
Anthropic 的兩難寫在產品結構裡:Fable 是 Mythos 加上安全層的公開版,安全層收太緊,正當用戶體驗直接受損;放太鬆,分級開放的理由又站不住。校準這條線的過程,全世界都在圍觀。短期的務實解法大概是分級帳號或專業身分驗證,讓資安與生科從業者憑資格換回能力,但驗證誰來做、標準怎麼定,又是一輪新的攻防。
歸剛點評|安全分層從理念落地成產品的第一週,代價馬上現形:資安與生科的正當從業者成了誤傷區。這條校準曲線怎麼修,會變成後面每家模型商做分級開放的參考書。
來源:TechCrunch · The Verge