LongStraw：固定 GPU 預算下，把強化學習後訓練推過 200 萬 token 長上下文

AI 系統研究圈有個越來越尷尬的落差：推論端的上下文長度已逼近百萬 token，但強化學習後訓練的工作負載多半還停在 25.6 萬 token 以下，只能仰賴模型「長度泛化」硬撐到部署場景。落差對 AI 代理尤其致命——代理的觀察紀錄、工具輸出、參考文件與歷史決策會沿著長任務軌跡不斷累積，訓練時沒見過這種長度，實戰表現就得看運氣。

LongStraw 的貢獻是一套「架構感知」的執行堆疊，讓超過 200 萬 token 的強化學習後訓練，在固定 GPU 預算內跑得起來。思路是把長上下文訓練的記憶體與計算瓶頸拆開處理，針對注意力機制與序列平行化的特性重排執行方式，而非粗暴地堆更多顯卡。在後訓練成本已成各實驗室最大開銷之一的當下，「固定預算」四個字就是最大的賣點。

值得跟本站近期報導串起來看：昨日 Kimi K3 用比前代少 21% 的輸出 token 拿到更高評測分數、今日 OpenAI 財務長把「算力報酬率」列為四大指標——整個行業的重心正從「堆更多算力」轉向「同樣算力擠出更多能力」。長上下文 RL 是代理能力的直接瓶頸，誰先把訓練長度追平部署長度，誰的代理就先擺脫「金魚腦」。

歸剛點評：這類系統論文不會上主流媒體版面，但它們決定了半年後產品的天花板。今天代理用久了會「忘記自己做過什麼」，根源之一就是訓練長度跟不上使用長度。200 萬 token 大約是一整個中型程式碼庫或幾天份的代理工作軌跡，這個長度的 RL 若真的平價化，「跑一整週不失憶的代理」就從行銷話術變成工程時程表上的一行。