OpenAI 打造「超級駭客」GPT-Red：用 AI 攻擊自己，讓模型更安全

OpenAI 揭露一款內部打造、名為 GPT-Red 的大型語言模型「超級駭客」，把它當成陪練的對手，用來攻擊自家其他模型、協助讓它們更安全。這是把紅隊演練（red teaming）自動化的一步——與其等外部攻擊者找到破口，不如先養一個最會攻擊的 AI，逼自家防線在上線前先被打過一輪。這則消息隨 MIT 科技評論的每日簡報一同曝光。

以攻為守的思路本身不新，資安界一直用滲透測試找漏洞。但把攻擊方也做成一個能力頂尖的 AI，意義在於規模與速度：人類紅隊一天想得出的攻擊手法有限，一個專門訓練來破解的模型可以不眠不休嘗試海量變體，把防守方的盲點壓榨出來。這跟本站今天另一則 Hugging Face 遭全自動 AI 代理入侵的事件正好互為鏡像——外面的攻擊者已經在用 AI 自動化打人，防守方自然也得用 AI 自動化練兵。

值得留意的是這類「超級駭客」模型本身就是雙面刃。同一套能高效找出自家漏洞的能力，若外洩或被複製，就成了攻擊他人的利器，這也是為什麼 OpenAI 強調它是內部使用的陪練工具。把最危險的能力關在自家實驗室、用來加固而非散布，是這類研究能不能被接受的關鍵前提。細節目前有限，還需要看 OpenAI 後續釋出多少方法論與防護邊界。

歸剛點評：這招其實很務實——你怕被駭，就先養一隻最兇的駭客在家練你。GPT-Red 的價值不在單次找到幾個漏洞，而在把紅隊從「人力密集、偶爾為之」變成「隨時、海量、自動」。但同一件事的另一面也要記住：能造超級駭客的能力，本身就是最敏感的資產，關在實驗室裡是加固，流出去就是災難。這條線 OpenAI 得守得非常緊。