OpenAI 公開 GPT-Red：自我對弈練出的超級駭客，攻擊力贏過人類紅隊 84 比 13

OpenAI 週三公開內部祕密武器 GPT-Red：一個專門攻擊自家模型的自動化紅隊系統。訓練方法是自我對弈強化學習——GPT-Red 不斷生成更強的提示注入（prompt injection）攻擊，防守方模型同步學習抵抗，防守變強又逼攻擊方進化，每一代循環都同時產出更凶的攻擊者和更硬的防守者。OpenAI 說這次投入的算力達到自家最大型後訓練的等級，全部燒在安全上。

成績單相當驚人。在攻擊情境對決中，GPT-Red 以 84% 對 13% 的成功率輾壓人類紅隊員。上週發布的 GPT-5.6 正是用 GPT-Red 當陪練對象做對抗式訓練：在 OpenAI 內部最難的直接提示注入基準上，失敗率比四個月前最強的生產模型少了六倍；面對 GPT-Red 自己生成的直接注入攻擊，失敗率只剩 0.05%。官方另透露整套系統上線前經過超過 70 萬 A100 等效 GPU 小時的自動化測試。

MIT Technology Review 的報導把 GPT-Red 稱作「LLM 超級駭客」，點出它找到了不少人類紅隊員從未想到的攻擊路徑。提示注入一直是 AI 代理落地的最大安全瓶頸——代理要讀網頁、讀郵件、讀文件，任何一段被動讀入的文字都可能藏著惡意指令。用機器攻機器的規模化紅隊，是目前看得到最有效的解法之一。

歸剛點評：巧的是今天同一天就有 Claude web_fetch 漏洞的實例示範（見資安欄），攻防兩面對照著讀特別有感。GPT-Red 的思路等於把「安全」變成一個可以用算力堆的工程問題，大實驗室有錢燒 GPU 就能持續變硬，開源模型和小公司拿什麼跟？安全能力的貧富差距，可能比模型能力的差距拉得更快。