從 token 暴食到 token 配給:公司搶著阻止員工用小任務燒爆 AI 預算
AI 工具導入企業後出現一個沒人預料到的問題:員工太愛用了。TechCrunch 形容,短暫的『token 暴食』時代正在結束,取而代之的是『token 配給』的新階段——公司紛紛跳出來想辦法,阻止員工把一堆雞毛蒜皮的小任務都丟給 AI,因為這些零碎呼叫累積起來,會把月底的帳單悄悄燒到嚇人。
問題出在計價方式與人性的碰撞。多數 AI 服務按 token(也就是處理的文字量)計費,單次看起來都很便宜,便宜到讓人完全沒有節制的意識。但當全公司每個人,整天為了改錯字、潤一句話、總結一封短信這種小事都呼叫一次,乘以人數再乘以天數,帳單就以等比級數膨脹。便宜的東西被無限次使用,最後一點都不便宜。
值得和本站同一期的另一條放在一起看:DeepMind 把代理能力下放到便宜的 Flash 模型。能力越便宜、越好用,越會誘發無節制的使用,帳單膨脹的速度反而可能更快。企業現在要學的,是怎麼設預算上限、怎麼把高價值任務和瑣事分流,把 AI 的錢花在刀口上,而不是被它的方便反過來吃掉利潤。
歸剛點評:這根本是吃到飽自助餐的老劇本——說好隨便拿,結果成本控管哭出來。對導入 AI 的台灣公司是個提醒:先想清楚計費與用量治理,別等帳單寄到才發現員工把 AI 當免費的用,省下來的人力成本全進了 token 帳裡。
歸剛點評|AI 用量治理正成為企業導入後的真實痛點,按 token 計費加上無節制使用會讓成本失控,任何要導入 AI 的團隊都該提前設計用量與預算機制。
來源:TechCrunch