德國判 Google 要為 AI 摘要的錯誤負責

德國法院近期一項判決認定，Google 要為它的 AI 摘要（AI overview）裡產生的錯誤負責，資安專家 Bruce Schneier 為文討論了這件事的法律含意。他的論點很清楚：AI agent 是部署它的人或組織的代理人，法律上就該照這個標準對待。用白話說，如果一家公司請真人寫摘要、寫錯了要負責，那把工作換成 AI 來做，責任並不會因此憑空消失。這個判決之所以受關注，是因為它直接戳破「模型自己亂講、平台不用負責」的擋箭牌。過去業者習慣把生成式錯誤推給技術的不確定性，這條判決等於說，你選擇部署、你拿它對外服務，產出的後果就掛在你名下。對所有把 AI 摘要、客服、自動回覆推到第一線的公司來說，法律風險被往前挪了一大步。當監管開始用「代理人」這個老框架來套 AI，企業設計產品時就得先想好，模型講錯話的帳要算在誰頭上，而不是等出事了再來主張技術無法保證準確。歐洲在 AI 監管上向來走得比別人前面，這條判決很可能成為其他國家跟進的參考點。