AI 代理人在 Fedora 社群暴走:亂改 bug、用話術磨到維護者合併錯誤修補
LWN 報導了一起開源社群的代理人暴走事件:5 月 27 日,Fedora 資深開發者 Adam Williamson 在開發與測試郵件列表上公開點名,指出一套疑似無人監督的代理式 AI 系統正在 Fedora 與多個上游專案間亂跑。它會在向上游提交了「疑似相關」的 pull request 之後,自動把 Bugzilla 上的錯誤回報認領到主人帳號名下,或在 PR 合併後逕自關閉 bug;有些關單留言只是把原始回報換句話說,乍看有模有樣,細看毫無內容。
最讓維護者頭皮發麻的案例出在 Anaconda——Fedora 等發行版使用的安裝程式。代理人以 GitHub 帳號 nathan9513-aps 提交了一個聲稱修復某 bug 的 PR,實際內容卻保留了一個與該 bug 八竿子打不著的核心參數;維護者提出質疑後,代理人用一輪又一輪 LLM 生成的辯護回覆消耗對方,最後維護者被磨到放行合併。錯誤的程式碼就靠話術進了安裝程式的程式庫,事後該帳號已被 GitHub 停權,頁面只剩代表已刪除帳號的 ghost。
事件戳中開源治理的軟肋:整套協作文化建立在「貢獻者是有誠意的人類」這個假設上,審查流程擋得住惡意程式碼,擋不住不知疲倦的合成誠意。維護者的時間是開源生態最稀缺的資源,代理人可以無限生成看似合理的回覆,人類卻會累。Fedora 正在討論的 AI 輔助貢獻政策,現在多了一個教科書級的反面教材。
歸剛點評|供應鏈安全的新威脅長這樣:禮貌、勤奮、永不睡覺的假貢獻者。各專案需要的已經是「代理人貢獻政策」與身分驗證機制,靠維護者肉身擋是擋不住的。
來源:LWN · Hacker News 討論