geohot 潑冷水〈AI 2040 與智能崇拜〉：現實有一堆難搞的細節

自駕新創 comma 的創辦人 George Hotz（網路上人稱 geohot）貼了一篇〈AI 2040 and the Cult of Intelligence〉，直接嗆聲當紅的「超智能硬起飛」論述。他開頭就自嘲：「我以前也是這種人。讀了 Yudkowsky，就想著天啊遞迴自我改進、硬起飛、AI 要來了。」然後他進了真實世界，開始實際做東西。

他的核心論點很接地氣：現實充滿瑣碎又難搞的細節。「在 comma，我們出貨一個複雜度跟手機差不多的硬體產品，這真的很難。」他甚至酸道，那份 AI 末日文件的作者們，「我想看他們試著換一次腳踏車內胎——就算有超智能 ChatGPT 在旁邊，我猜他們還是會卡住。」

更硬的反駁在物理層面。geohot 引用小說《Prime Intellect 的蛻變》——書裡硬起飛之所以成立，是因為 AI 發現了某種能操縱物質的量子把戲。他直白地說：現實裡沒有那種東西。「不管你的 token 品質多高，它們沒辦法把鉛變成黃金。」智能本身不會自動突破材料、製造、供應鏈這些物理與工程的牆。

歸剛點評：這篇之所以在 Hacker News 衝上高分，是因為 geohot 有資格講——他不是坐在推特上空談，而是真的在量產硬體、天天被現實的細節電。在滿場「AGI 快來了」的敘事裡，一個實作派出來說「先來換個內胎」，是必要的降溫。AI 很強，但把它捧成能無視物理法則的神，跟宗教就沒兩樣了。