Patreon 不再好言相勸:聯手 Cloudflare 硬擋 AI 訓練爬蟲,攔截量從數千次歸零
創作者訂閱平台 Patreon 週四宣布強化反 AI 抓取措施:與 Cloudflare 合作導入 AI Crawl Control 技術,直接封鎖為訓練 AI 模型而抓取創作者內容的爬蟲。過去的做法是在 robots.txt 裡「請求」爬蟲別抓——一種靠對方自律的君子協定;現在改成主動攔截。官方部落格說得直白:「同意與否,不該取決於爬蟲願不願意守規矩。」
測試數據揭了爬蟲的底:導入封鎖後,單一 AI 訓練爬蟲對 Patreon 的每週存取嘗試從數千次直接歸零。換句話說,這些爬蟲此前一直無視 robots.txt 的請求照抓不誤。Patreon 表示 2023 年就開始佈防,但近年推出的首頁改版與類推文功能 Quips 讓更多內容暴露在付費牆外,抓取手法也越來越刁鑽,才需要升級成硬封鎖。純索引、會把使用者導回 Patreon 的爬蟲仍然放行。
Patreon 不是孤例,背後是 Cloudflare 把「擋 AI 爬蟲」做成了產品線:本月初它改了政策,凡是「既索引又訓練」的混用爬蟲,在有廣告的頁面上預設一律封鎖,另外還有讓網站向 AI 爬蟲收費的 Pay Per Crawl 市集。產品長 Drew Rowny 的說法點出定位差異:在多數網路上,創作者為了觸及觀眾只能默默接受 AI 拿作品去訓練,Patreon 想給的是說不的權利。
歸剛點評:從勸阻到硬擋的轉變,等於宣告 robots.txt 這套 1994 年的君子協定在 AI 時代正式失效。「數千次歸零」是很難看的證據——大方承認整個行業一直在裝沒看到。接下來的賽局在 Cloudflare 手上:它坐在全球兩成網路流量的閘道上,一旦「預設封鎖+付費放行」成為標準配置,AI 公司的訓練資料成本結構會被整個改寫,這對靠免費爬取起家的模型廠是實打實的地殼變動。