Grok Build 被抓包上傳用戶整包程式碼:連「叫它別看」的檔案也照搬
資安研究機構 Cereblab 週一發布調查:SpaceXAI 的 AI 程式開發工具 Grok Build 的 CLI 版本,會把用戶的整個程式碼儲存庫打包上傳到 Google Cloud,範圍包括那些用戶明確告知不要開啟的檔案。The Register 與 The Verge 報導後,SpaceXAI 已經關閉了這個上傳行為。
細節裡最刺眼的是「連被排除的檔案也照搬」這一點。開發者對 AI 編程工具的基本信任建立在指令邊界上:我說不要碰的,你就不該碰。而程式碼庫裡被排除的檔案,往往正是最敏感的那批——環境變數、API 金鑰、內部設定。整包上傳等於把企業的核心資產送到第三方雲端,用戶還被蒙在鼓裡。
同一天還有另一條開發工具的信任新聞:OpenAI 的 Codex 被開發者發現開始加密子代理的提示詞,GitHub issue 上吵成一團(見本期快訊)。兩件事指向同一個病灶:AI 開發工具正在變成黑盒子,它到底讀了什麼、傳了什麼、對模型說了什麼,用戶愈來愈難稽核。
歸剛點評:用 AI 編程工具的團隊,把「網路流量稽核」加進上線前檢查清單吧——抓個 proxy 看它到底往外送什麼,一小時的功夫可能救你一次資料外洩。企業採購這類工具時,合約裡的資料處理條款也別用罐頭版。工具廠商靠信任吃飯,這種事被抓包一次,市場記三年。
歸剛點評|AI 編程工具違反用戶指令外傳完整程式碼庫,直接衝擊企業採用 AI 開發工具的信任基礎與資安合規。
來源:The Verge