歸剛誒AI

歸剛欸,AI 又進步了——每天幫你盯 AI 圈的台灣人日報

第 30 期2026-07-09(台北時間)

OpenAI 一天出兩招:GPT-Live 語音模型讓 AI 能一邊說一邊聽、主打即時口譯,同時自曝熱門程式碼評測 SWE-Bench Pro 可信度有問題。馬斯克發布 Grok 4.5 自稱『Opus 級』、主打更便宜,和法國 ZML 跨晶片降本、AI 晶片商 SambaNova 估值衝上 110 億美元,共同把今天的主旋律寫成『AI 的錢與算力往哪去』。另一頭,貝佐斯加持的 General Intuition 賭電玩資料能訓練出實體 AI,Meta 的 Muse Image 上線就挨批,而布朗大學一場實體筆試讓疑似靠 AI 的成績當場腰斬 50%——生成愈猛,關於信任與真本事的問題就問得愈重。

產品

OpenAI 推出 GPT-Live 語音模型:能一邊說一邊聽,主打即時口譯

OpenAI 推出 GPT-Live 語音模型:能一邊說一邊聽,主打即時口譯

OpenAI 這次把語音模式底層換成新一代模型 GPT-Live,即日起驅動 ChatGPT 的語音功能。官方給出的核心賣點是「能一邊說、一邊聽」,也就是模型在輸出語音的同時仍在接收你的聲音,而不是等你講完、按停、它再開口這種一問一答的回合制。The Verge 拿到的版本代號 GPT-Live-1,形容它更像「在跟另一個人講話」,尤其在被打斷時懂得閉嘴讓路,不會硬把整段話講完。

在技術上,全雙工語音之所以難,是因為系統得同時跑辨識、理解、生成三件事,還要即時判斷對方是真的插話還是只是「嗯、對」這種附和,稍有延遲對話就會撞車。過去語音助理多半靠回合制迴避這個問題,代價就是那種一板一眼、要等它講完的機械感。OpenAI 把這關打通,等於把語音互動從對講機模式推向真正的雙向通話。

第一個被官方和媒體同時點名的應用是即時口譯:你講中文、它幾乎同步吐出英文,中間不用停頓等待,兩個語言的人可以近乎自然地對話。這對跨國會議、客服、旅遊現場都有立即價值,也直接和 Google、Meta 這幾家都在推的即時翻譯耳機、眼鏡正面對撞。

歸剛點評:語音這條線 OpenAI 一直想從「玩具」做成「介面」,全雙工是關鍵一步。真正的考驗不在 demo 有多順,而在吵雜的捷運上、口音很重的長輩開口時,它還接不接得住。能穩定當口譯用,這功能才算真的落地。

歸剛點評|語音從回合制走向全雙工,是把 AI 助理從『查詢工具』推向『對話介面』的關鍵一步。
來源:OpenAI · TechCrunch · The Verge
產品

馬斯克 AI 公司發布 Grok 4.5,自稱『Opus 級』模型主打更便宜

馬斯克旗下 AI 公司(TechCrunch 稱 SpaceXAI)週三發布 Grok 4.5,馬斯克形容它是『Opus 級』模型,強調更便宜、更高效,直接對標其他頂級大模型。

馬斯克 AI 公司發布 Grok 4.5,自稱『Opus 級』模型主打更便宜

馬斯克的 AI 事業週三推出 Grok 4.5,他親自把這一版定位成「Opus 級」模型——借用 Anthropic 頂級模型 Claude Opus 的名號,等於宣稱新版 Grok 已擠進第一梯隊。TechCrunch 這次的標題還把公司寫成「SpaceXAI」,呼應近期 xAI 與 SpaceX 資源愈綁愈緊的傳聞,命名怎麼收斂還沒定案,但產品是實打實出來了。

官方這次把重點擺在性價比,而非純粹刷榜:Grok 4.5 標榜比同級對手更便宜、更高效,把運算成本壓下來當武器。這個打法背後的邏輯是,當各家旗艦模型的能力差距收窄,真正決定企業選誰的往往是每百萬 token 的價格和延遲,而不是某個 benchmark 高零點幾分。馬斯克手上握著自建的超大 GPU 叢集,成本敘事正是他最想打的一仗。

把 Grok 4.5 放到這兩天的脈絡看更有意思:同一批新聞裡,法國 ZML 在做跨晶片降低推理成本、SambaNova 用自研晶片估值衝上 110 億美元,整個產業的焦點正從「誰更聰明」往「誰更省」傾斜。Grok 用「Opus 級但更便宜」當口號,等於直接站進這條主戰線。

歸剛點評:「Opus 級」是行銷話術,聽聽就好,真正要看第三方獨立評測跑出來的數字。但便宜這件事不是嘴上說說——如果 Grok 4.5 能力真的貼近頂級、價格又砍一截,對開發者是實惠,對 OpenAI、Anthropic 的定價則是壓力。

歸剛點評|旗艦模型能力趨同後,價格與效率成了新戰場,Grok 用低成本敘事切入第一梯隊之爭。
來源:TechCrunch
政策

OpenAI 公布政府與國安合作原則:談責任、民主問責與公共安全

OpenAI 發表和政府、國家安全單位合作的原則框架,主打負責任的 AI 使用、民主問責與公共安全,替日益增多的公部門與國防案子劃界線。

OpenAI 公布政府與國安合作原則:談責任、民主問責與公共安全

OpenAI 發布一份說明,闡述它和政府單位、國家安全機構合作時採用的原則。三個關鍵字是負責任的 AI 使用、民主問責與公共安全——換句話說,OpenAI 想在承接公部門和國防相關案子的同時,先把「哪些能做、哪些不做」的界線攤在檯面上,避免外界質疑它悄悄把模型賣進軍事或監控用途。

會挑這個時間點發原則,背景是整個產業都在往政府生意靠:從國防部的實驗合約、情報單位的資料分析,到各國政府自建主權 AI,公部門正成為前沿實驗室下一塊肥肉。但公部門用 AI 牽涉監控、武器、公民權利,稍有不慎就是輿論地雷,先立框架等於替後續每一張合約買保險。

值得注意的是「民主問責」這個詞的份量。它暗示 OpenAI 想把自己的公部門業務綁在民主體制、公開監督這一側,和不受制衡的威權用途劃清界線——這既是價值宣示,也是商業卡位,因為西方政府採購時最在意的正是供應商的立場與可信度。

歸剛點評:原則寫得再漂亮,真正算數的是執行時怎麼落地、由誰來查。這類框架的價值不在文件本身,而在日後某個爭議案子爆出來時,外界能不能拿它回頭對照。先立牌子是好事,就看之後守不守得住。

歸剛點評|前沿實驗室集體搶進政府與國防市場,先劃界線是替後續每張敏感合約買的政治保險。
來源:OpenAI
觀察

OpenAI 自己拆招:熱門程式碼評測 SWE-Bench Pro 可信度有問題

OpenAI 一份新分析指出,被廣泛引用的程式碼評測 SWE-Bench Pro 存在缺陷,直指模型能力排行榜的可靠性與準確性有疑慮。

OpenAI 自己拆招:熱門程式碼評測 SWE-Bench Pro 可信度有問題

OpenAI 發表一份分析,把矛頭指向自己也在用的熱門程式碼評測 SWE-Bench Pro,說這套 benchmark 存在會影響結果可信度的問題。SWE-Bench 系列這兩年是衡量 AI 寫程式、修 bug 能力的黃金標準,各家發模型都要秀在上面跑幾分,OpenAI 這一刀等於捅在整個產業拿來互相比較的公用尺上。

benchmark 會失真的常見毛病有幾種:測試題目可能早就混進模型的訓練資料(資料污染),讓模型是「背過答案」而非真的會解;或是評分腳本、環境設定有瑕疵,導致對的答案被判錯、錯的被放行。任何一種都會讓排行榜的名次失去意義,卻很少有人願意回頭查——因為大家都靠這張榜單行銷。

由市場領頭羊親自出來拆自家也在用的評測,姿態很微妙。往好處看,這是把「別太迷信單一分數」的話講明白,逼整個社群正視評測品質;往現實看,當你的模型在某張榜上沒佔到便宜,質疑榜單本身也是一種競爭策略。兩種動機可以並存。

歸剛點評:這則新聞的真正價值,是提醒所有看 AI 新聞的人——「刷新 SOTA」「超越 GPT 幾分」這種標題要打折看。評測有沒有被污染、腳本準不準,比多零點幾分重要太多。連 OpenAI 都跳出來說榜有問題,你我引用時更該留個心眼。

歸剛點評|當領頭羊親自質疑公用評測,等於承認整個產業互比能力的那把尺可能不準。
來源:OpenAI
產業

貝佐斯加持新創 General Intuition:用電玩影片資料訓練實體 AI

新創 General Intuition 主張大語言模型撐不起 AGI,賭注押在數百萬小時的電玩影片資料上,用來訓練理解空間與時間的實體 AI 基礎模型。

TechCrunch 這兩天連發影片、Podcast 和文章,聚焦一家貝佐斯投資的新創 General Intuition。它的核心論點很直接:ChatGPT、Claude 這類大語言模型很會處理文字,卻不擅長理解東西如何在空間和時間中移動,而這正是通往通用人工智慧、以及能操控真實世界的機器人所欠缺的一環。

它們的解法是拿電玩遊戲影片當訓練燃料。遊戲畫面天然包含物體運動、碰撞、因果、玩家操作與後果,而且量大、標註成本低、可控性高——比起在真實工廠裡蒐集機器人試錯資料,遊戲資料便宜太多。這家公司賭的是,數百萬小時的遊戲影像能長出一套會「理解物理世界」的基礎模型,餵給機器人當大腦。

同一天 TechCrunch 另一篇也在講「機器人即將迎來自己的 ChatGPT 時刻」,論調如出一轍:文字模型的紅利吃得差不多了,下一波要靠能感知、能動作的實體 AI。用遊戲資料當捷徑,是這條路線最具想像空間、也最有爭議的一步——畢竟遊戲物理跟真實物理仍有落差。

歸剛點評:這個賭注很聰明,痛點抓得準——真實世界資料太貴,遊戲資料現成又海量。但魔鬼在 sim-to-real 那道鴻溝:遊戲裡的重力、摩擦力都是簡化過的,學到的直覺搬進真實機器人未必管用。方向對,能不能跨過那道坎才是本事。

歸剛點評|當文字模型紅利見頂,用便宜海量的遊戲資料訓練實體 AI,是機器人基礎模型最有想像空間的一條路。
產業

Prime Intellect 募 1.3 億美元 A 輪:幫企業自建 AI 代理,不靠前沿實驗室

2024 年成立的 Prime Intellect 完成 1.3 億美元 A 輪,目標是讓企業能自行訓練代理系統,不必依賴 OpenAI、Anthropic 這類前沿實驗室。

Prime Intellect 募 1.3 億美元 A 輪:幫企業自建 AI 代理,不靠前沿實驗室

成立於 2024 年的新創 Prime Intellect 宣布完成 1.3 億美元 A 輪募資。它的定位很清楚:給企業一整套能力,讓它們自己訓練專屬的 agentic(代理式)AI 系統,而不必把核心業務綁死在 OpenAI、Anthropic 這些前沿大廠的封閉 API 上。對一輪 A 輪來說,1.3 億美元是相當豪華的數字,反映投資人對「去中心化訓練」這條敘事的胃口。

背後的痛點是真實的:很多企業想要 AI 代理幫忙跑流程、串工具,但把敏感資料、業務邏輯交給外部大模型,涉及資安、合規、供應商鎖定與成本失控的疑慮。Prime Intellect 主打讓企業把訓練與掌控權收回自己手上,等於站在「主權 AI」「自建能力」這一側,和一切都外包給巨頭的路線對打。

把它跟今天其他幾則連起來看很有意思:Meta 的 Muse 想取代開源 Llama、微軟傳出改用自研模型省錢、法國 ZML 做跨晶片降本——整個產業的張力都圍繞著「該依賴巨頭,還是自己來」。Prime Intellect 拿到大錢,說明資本正認真下注在「自己來」這一邊。

歸剛點評:企業想收回 AI 主導權是真需求,但自建代理的門檻不低——要資料、要人才、要算力。這類公司賣的其實是「降低自建門檻的鏟子」。1.3 億美元夠燒一陣,能不能證明企業真的願意自己動手、而不是嫌麻煩繼續叫外送,是它接下來要回答的。

歸剛點評|資本正下注在『企業自建、不依賴巨頭』這一側,反映對供應商鎖定與資料主權的集體焦慮。
來源:TechCrunch
硬體

AI 晶片商 SambaNova 估值衝上 110 億美元,募得 10 億

AI 晶片新創 SambaNova 完成 F 輪首關,以 110 億美元估值募得 10 億美元;就在幾個月前,還傳出 Intel 想以約 16 億美元收購它。

AI 晶片商 SambaNova 估值衝上 110 億美元,募得 10 億

AI 晶片公司 SambaNova 完成 F 輪募資首關,以 110 億美元估值進帳 10 億美元。這個數字的戲劇性在對照組:就在幾個月前,市場還盛傳 Intel 有意以大約 16 億美元把 SambaNova 買下。短短數月,同一家公司的身價從「可能被便宜收購」翻到「110 億美元估值、單輪吸金 10 億」,落差近七倍,把當前 AI 硬體的熱度寫得很白。

SambaNova 做的是專為 AI 運算設計的晶片與系統,想在 Nvidia 一家獨大的市場裡分一塊。這波熱錢說明,投資人不只想押注模型公司,也急著找 Nvidia 以外的算力供給——因為 GPU 供不應求、價格高企,任何能提供替代推理算力的玩家都有故事可講。SambaNova、Cerebras、Groq 這些名字,賭的都是同一個「去 Nvidia 化」的縫隙。

把它和今天法國 ZML 發布跨晶片推理軟體放一起看,硬體端的敘事更完整:一邊是新晶片商衝估值搶市場,一邊是軟體層想抹平不同晶片的差異、讓大家不再被單一硬體綁死。整個生態都在替「後 Nvidia 時代」鋪路,錢和技術兩頭並進。

歸剛點評:幾個月從 16 億談判價跳到 110 億估值,這種漲法很難全用基本面解釋,資金追捧的成分很重。SambaNova 的技術有沒有真材實料是一回事,但它踩中了「大家都想要 Nvidia 替代品」的集體焦慮,這個位置本身就值錢。泡沫與機會,這次同框。

歸剛點評|從傳聞被 16 億賤賣到 110 億估值募資,映照出資本急尋 Nvidia 替代算力的集體焦慮。
來源:TechCrunch
開源

LeCun 背書的法國新創 ZML 開源 LLMD:跨多種 AI 晶片加速推理

獲圖靈獎得主 Yann LeCun 力挺的法國 AI 新創 ZML,推出免費軟體 ZML/LLMD,能讓 AI 推理跨多種晶片運行、降低成本。

LeCun 背書的法國新創 ZML 開源 LLMD:跨多種 AI 晶片加速推理

法國 AI 新創 ZML 推出一款免費軟體 ZML/LLMD,主打讓 AI 推理能跨多種晶片高效運行,藉此壓低跑模型的成本。這家公司背後站著圖靈獎得主、Meta 首席 AI 科學家 Yann LeCun 的公開背書——在 AI 圈,LeCun 的名字本身就是一種篩選信號,會讓外界對一個名不見經傳的歐洲團隊多看兩眼。

它解決的痛點很具體:現在跑大模型的軟體堆疊高度綁定特定硬體,最典型的就是 Nvidia 的 CUDA 生態,導致企業一旦選了某家晶片就很難換,議價能力也弱。LLMD 想做的是一層抹平硬體差異的中介,讓同一份模型能在不同廠牌的晶片上跑,把選擇權還給用戶,順帶把推理成本打下來。

而且它選擇免費、開源這條路,意圖很清楚:先靠零門檻鋪開生態、累積開發者,再談商業化。這和今天 SambaNova 衝估值、Prime Intellect 幫企業自建是同一組主旋律的不同聲部——大家都在圍繞「別被 Nvidia 和巨頭鎖死」這件事各自出招,有人做硬體、有人做軟體、有人做服務。

歸剛點評:跨晶片這件事講了很多年,難就難在每家硬體的脾氣都不一樣,抹平差異往往要犧牲效能。ZML 有 LeCun 背書、又走開源,起手式漂亮,但真正的考驗是實測跑起來到底掉多少速度、支援幾種晶片。能兼顧通用與效能,這軟體才有殺傷力。

歸剛點評|跨晶片推理軟體想抹平硬體綁定,是產業『去 Nvidia 化』在軟體層的關鍵一手。
來源:TechCrunch
產品

Meta 新圖像模型 Muse Image 上線就挨批,用戶當場反彈

Meta 推出圖像生成模型 Muse Image,用途涵蓋廣告、居家佈置與創作,但產品一上線就遭到用戶反彈。

Meta 新圖像模型 Muse Image 上線就挨批,用戶當場反彈

Meta 推出全新圖像生成模型 Muse Image,官方列出的用途包括廣告製作、居家佈置模擬、創作者變現等,野心是把它塞進 Instagram、WhatsApp 這些日活數十億的 app 裡。但產品一上線,用戶反彈的聲音就冒出來——這也接續了前一天 Muse 家族首發時就已浮現的爭議,尤其是那個能把其他 Instagram 用戶「@」進你 AI 照片的功能。

反彈的根源多半繞著隱私與同意打轉。當一個模型能拿別人的公開照片生成含其長相的圖像、又內建在你每天在用的社群 app 裡,「我的臉會不會被隨便拿去合成」就成了每個用戶的切身焦慮。Meta 說有控制選項,但預設值怎麼設、關閉入口藏多深,決定了這到底是尊重用戶,還是預設全開、要你自己去找開關。

更大的背景是 Meta 這一年的 AI 產品被批評發散:助理、vibe coding app、圖像、影片一路撒網,卻缺一個讓人記住的主打。Muse Image 是超級智慧實驗室重金挖角後擺上核心產品線的第一個交付物,本該是翻身之作,開局卻先收到用戶白眼,對內部士氣和外部敘事都不是好兆頭。

歸剛點評:把生成式 AI 硬塞進十億人天天用的社群 app,威力和風險都被放大十倍。技術能不能生出漂亮圖是其次,用戶信不信任你不會亂用他的臉才是關鍵。Meta 這次的問題不在模型畫得好不好,而在它一貫給人的印象——先上線再說,隱私慢慢談。

歸剛點評|把生成式 AI 塞進十億人社群 app,隱私與同意的風險被放大十倍,信任才是產品成敗關鍵。
來源:TechCrunch
產品

Google 相簿新增 AI「Video Remix」:電影感補光、換背景、套風格

Google 相簿推出 AI 工具 Video Remix,可對影片做電影感重打光、替換背景、套用藝術風格等再創作。

Google 相簿新增 AI「Video Remix」:電影感補光、換背景、套風格

Google 相簿新增一個叫 Video Remix 的 AI 工具,讓用戶對手上的影片做再創作。官方舉的例子包括:把拍暗了的片段用「電影感重打光」拉亮、把平淡的背景換成有趣的場景、或替影片套上各種藝術風格。這等於把過去要靠專業剪輯軟體、調色師才能做的活兒,變成相簿裡點幾下就完成的傻瓜功能。

技術上,這類功能背後是影片生成與編輯模型,要理解畫面裡的光源、前景與背景的分界、物體邊緣,再一致地重新算圖——難度比修單張照片高得多,因為每一幀都要對得上、不能閃爍。Google 敢把它做進消費級的相簿 app,說明影片生成模型的成熟度和成本已經降到能面向普通用戶。

把它跟同一天 OpenAI 的 GPT-Live 語音、Meta 的 Muse Image 併看,巨頭的節奏很一致:把生成式 AI 從獨立的實驗性 app,一個個縫進大家本來就每天在用的相簿、社群、語音助理裡。對用戶而言門檻幾乎為零,對巨頭而言則是用既有的十億級入口鞏固護城河。

歸剛點評:Video Remix 對一般人很實用——誰的相簿裡沒幾支拍糊拍暗的片子。但「電影感重打光」「換背景」也把一件事推得更遠:影片愈來愈容易被修改,眼見為憑的年代又被削弱一分。今天 Google 另一則新聞正好在講用 AI 偵測深偽,一邊生成一邊偵測,這場貓抓老鼠不會停。

歸剛點評|影片編輯 AI 下放到消費級相簿,門檻歸零的同時也讓『眼見為憑』再退一步。
來源:TechCrunch
政策

Meta 想讓 AI 眼鏡不再『毛毛的』:新增防偷拍機制,但資料胃口不減

Meta 為 AI 眼鏡加入新防護,阻止用戶偷偷錄下他人,但同一時間公司仍在擴大蒐集資料的範圍,兩者訊號矛盾。

Meta 想讓 AI 眼鏡不再『毛毛的』:新增防偷拍機制,但資料胃口不減

Meta 替旗下 AI 眼鏡加了一道新防護,想阻止用戶神不知鬼不覺地錄下身邊的人,藉此回應外界對「智慧眼鏡=隨身偷拍器」的長期不安。臉上戴著攝影機走進咖啡廳、廁所、更衣間,一直是這類產品揮之不去的隱私陰影,Meta 顯然想讓眼鏡看起來「不那麼毛」。

但 TechCrunch 的觀察很銳利:就在加防偷拍機制的同時,Meta 整體的 AI 策略卻在往反方向走——持續擴大從用戶身上蒐集、使用資料的範圍。一手做小修補安撫外界,一手把資料胃口愈撐愈大,兩個訊號自相矛盾,也讓那道新防護看起來更像公關姿態,而非真心要收斂。

這種矛盾正是穿戴式 AI 的核心難題:眼鏡要夠聰明、夠貼身才有用,而聰明的代價就是它得不斷看、不斷聽、不斷記錄你和你周遭的一切。防偷拍保護的是「被你拍的路人」,但更根本的問題是「Meta 到底拿這些第一視角的資料去做什麼」,而那部分官方講得永遠最少。

歸剛點評:防偷拍指示燈這種設計,擋得住有心人嗎?多半擋不住,象徵意義大於實質。真正該盯的重點在它蒐集的第一視角影像、語音,最後餵進了哪個模型、留多久、賣不賣。眼鏡會不會亮燈,反倒是小事。Meta 這一年在隱私上的信用本來就薄,這次的矛盾操作沒幫上忙。

歸剛點評|穿戴式 AI 愈貼身愈好用,代價是不斷記錄周遭,防偷拍的小修補擋不住資料胃口的大問題。
來源:TechCrunch
資安

Google 深偽偵測系統出手,戳破麥康諾住院假照片

一張看似參議員麥康諾病重住院的照片本週瘋傳,最後由 Google 的深偽偵測系統確認為 AI 造假。

Google 深偽偵測系統出手,戳破麥康諾住院假照片

本週稍早,一張照片在網路瘋傳,畫面看似肯塔基州參議員麥康諾(Mitch McConnell)躺在病床、身上插滿管子、狀況危急。這種涉及重要政治人物健康的影像,天生就有爆炸性傳播力——它會餵養各種政治猜測。最後這張照片被判定是假的,戳破它的正是 Google 的深偽偵測系統。

這類偵測技術的做法,通常是分析影像裡肉眼看不出的破綻:AI 生成圖在光影一致性、紋理、壓縮痕跡、乃至看不見的數位浮水印上,會留下和真實照片不同的指紋。Google 這幾年投入 SynthID 一類的水印與偵測工具,正是為了在假圖氾濫時,提供一個能快速判真偽的技術後盾。

把它跟同一天 Google 相簿推 Video Remix 放一起看,反差很諷刺:同一家公司,一邊讓幾億人能輕鬆換背景、重打光、生成更逼真的影像,一邊又要開發工具去抓誰在造假。生成與偵測的軍備競賽,就這樣在同一間公司內部同時上演,也預告這場貓抓老鼠沒有終點。

歸剛點評:這次是好結局——假照片被及時揪出。但別太樂觀:偵測永遠比生成慢半拍,而且一張假圖在被判定為假之前,早就在社群上跑了好幾圈、傷害已經造成。技術能幫忙查證,但真正的防線還是每個人看到聳動照片時,先按住轉發的手。

歸剛點評|生成與偵測的軍備競賽在同一家公司內部同時上演,也預示假影像查證永遠慢半拍。
來源:TechCrunch
資安

9 款熱門 AI 工具可被用來組殭屍網路:新攻擊手法「HalluSquatting」

研究揭露一種名為 HalluSquatting 的攻擊,利用大模型不肯說『我不知道』的幻覺弱點,可透過 9 款熱門 AI 工具組建大規模殭屍網路。

9 款熱門 AI 工具可被用來組殭屍網路:新攻擊手法「HalluSquatting」

一份安全研究揭露一種新攻擊手法,取名 HalluSquatting,指出九款最熱門的 AI 工具都可能被利用來組建大規模殭屍網路(botnet)。核心弱點是大模型那個老毛病——不願意說「我不知道」,遇到不確定的東西也硬要編一個看似合理的答案,也就是所謂的幻覺(hallucination)。

攻擊的巧思在於把幻覺武器化。當你請 AI 助理幫你寫程式、裝套件,它常會「順口」推薦一個聽起來很像真的、實際上並不存在的軟體套件名稱。攻擊者只要事先去搶註冊這些「模型最愛幻想出來的名字」,把惡意程式碼塞進去,那麼每個信任 AI 建議、照著安裝的開發者,就等於自己把後門請進機器——大量受害機器串起來就是殭屍網路。

這個手法之所以危險,在於它繞開模型本身的漏洞,專鑽「人會信任 AI 輸出」的空子。九款熱門工具全中,說明問題是結構性的:只要模型還會一本正經地胡謅套件名,這條攻擊路徑就一直開著。它也把「AI 幻覺只是準確度問題」的認知,直接升級成資安問題。

歸剛點評:這招陰險就陰險在利用信任。以前叫你別亂裝來路不明的套件,現在連 AI 好心推薦的都要查——因為那個名字可能是它幻想出來、又被壞人搶先佔坑的陷阱。給開發者的教訓很實際:AI 給的套件名、指令,安裝前務必自己核對一遍,別把它的自信當成正確。

歸剛點評|把 LLM 幻覺武器化,鑽的是人對 AI 輸出的盲目信任,繞開模型漏洞本身,這是結構性風險。
來源:Ars Technica
觀察

教授疑學生用 AI 作弊改考實體筆試,成績當場腰斬 50%

一位常春藤名校教授懷疑學生用 AI 作弊,改為現場實體期末考,結果全班成績暴跌 50%,直言 AI 作弊將導向『失敗的社會』。

教授疑學生用 AI 作弊改考實體筆試,成績當場腰斬 50%

Ars Technica 報導一起在布朗大學延燒的 AI 作弊事件:一位教授懷疑學生在作業和考試上大量倚賴 AI,於是把期末考改成不能帶裝置、現場動筆的實體筆試。結果很殘酷——全班成績相較之前直接腰斬、掉了 50%。教授的評語很重:AI 作弊會導向「一個失敗的社會」,我們不能選擇讓自己變成笨蛋。

成績掉一半這個數字,把問題攤得很清楚:當學生平時交出來的成果有 AI 撐著,一旦抽掉外掛、只考自己腦袋裡真正留下的東西,落差就原形畢露。這不只是「有沒有作弊」的紀律問題,而是「到底有沒有學到」的教育本質問題——如果答案都外包給模型,考高分和真的會,可能是兩回事。

這件事戳中整個教育體系的兩難。全面禁用 AI 不切實際,學生出社會後本來就會用;但放任使用,又很難確認學生是否真的掌握了底層能力。改考實體筆試是一種粗暴但有效的照妖鏡,逼出「有 AI」和「沒 AI」之間那道真實的鴻溝,也讓學校不得不重新想:到底該考什麼、怎麼考。

歸剛點評:成績腰斬不是壞事,是誠實。它提醒我們 AI 是很好的槓桿,但槓桿撐起來的高度,不等於你自己站得到的高度。分數掉一半不可怕,可怕的是有多少人已經分不清「我會」和「AI 幫我會」。工具可以用,但底層能力還是得自己長,這條沒有捷徑。

歸剛點評|抽掉 AI 後成績腰斬,逼問的是教育本質——考高分與真的學會,可能已是兩回事。
來源:Ars Technica
開源

騰訊 HunyuanOCR-1.5:輕量 OCR 視覺語言模型,主打又快又好

騰訊發表輕量端到端 OCR 專用視覺語言模型 HunyuanOCR-1.5,統一文件解析、文字偵測與資訊抽取,強調在小體積下更快更準。

騰訊 HunyuanOCR-1.5:輕量 OCR 視覺語言模型,主打又快又好

騰訊推出 HunyuanOCR-1.5,一款輕量、端到端的 OCR 專用視覺語言模型(VLM)。它把文件解析、文字偵測(text spotting)、資訊抽取這幾件過去要靠多個模組串起來的工作,統一在一個模型裡完成,主打的兩個字就是——更快、更好。體積小、又不犧牲準度,是它想打的差異點。

傳統的 OCR 流水線往往拆成好幾段:先偵測文字在哪、再辨識是什麼字、最後解析版面結構抽出欄位,每一段各自出錯、彼此累積誤差,維護起來也麻煩。端到端的 VLM 把整條流程收進單一模型,讓它直接看圖、直接吐出結構化結果,理論上更簡潔、也更能處理複雜版面(表格、發票、手寫混排)。

會強調「輕量」是有現實考量的:OCR 是最貼近實際商用的 AI 場景之一——掃描發票、讀合約、數位化檔案、辨識證件——這些需求量大、對成本和速度敏感,而且很多要在企業內部、甚至端側裝置上跑。一個小到能便宜部署、又夠準的 OCR VLM,比一個又大又貴的通用模型實用得多。

歸剛點評:OCR 聽起來不性感,卻是 AI 少數已經真的在幫企業省錢、天天在用的落地場景。騰訊走輕量路線很務實——這領域拚的是誰又快又準又便宜,參數多寡反而其次。而且它願意把 Hunyuan 系列開源,對想自建文件處理的團隊是實打實的禮物。

歸剛點評|OCR 是 AI 最貼近商用、天天在省錢的落地場景,輕量端到端模型比大而貴的通用模型更實用。
研究

一層就夠?研究:只訓練單一 Transformer 層,可媲美全參數 RL

新論文發現,在大模型後訓練中只訓練單一 Transformer 層,效果就能追上調整全部參數的強化學習,揭示 RL 適應其實高度集中。

一層就夠?研究:只訓練單一 Transformer 層,可媲美全參數 RL

一篇新論文丟出一個反直覺的發現:在用強化學習(RL)對大模型做後訓練時,只需訓練單一一層 Transformer,效果就能媲美調整全部參數的完整 RL。標題自問「一層就夠嗎?」,答案在實驗裡是——很多時候,還真的夠。這對「模型愈調愈多才愈好」的直覺是個有力的反例。

這背後指向一個更深的問題:RL 到底改變了模型的什麼?長久以來大家對 RL 後訓練(例如 RLHF)內部發生什麼所知甚少,只知道它有效。這篇的洞見是,RL 帶來的適應其實高度集中在模型的少數地方,而不是均勻地攤在所有參數上——換句話說,真正被 RL 動到的「關鍵旋鈕」可能只有一小撮。

如果結論站得住,實務意義很大。全參數 RL 又貴又慢又吃顯存,若只調一層就能拿到八九成的效果,後訓練的成本可以大幅下降,迭代速度變快,中小團隊也更玩得起。它也給了研究者一把解剖刀,去理解 RL 究竟在模型裡「按下了哪些開關」,讓這個一直很黑箱的環節透明一點。

歸剛點評:這類「少即是多」的發現最有意思,因為它同時省錢又長知識。省的是算力——一層跟全部,成本天差地遠;長的是理解——原來 RL 的功勞集中在少數幾處。當然還要看它在更大模型、更多任務上撐不撐得住,但方向很誘人:把後訓練從蠻力往精準推。

歸剛點評|若只調一層就能媲美全參數 RL,後訓練成本可大降,也讓一直黑箱的 RL 內部機制透明一點。
研究

SWE-Review:給程式碼代理加一道 AI 審查,把改 bug 變成閉環

新研究 SWE-Review 針對程式碼代理『一次生成 PR 就交差』的開環問題,加入代理式程式碼審查,讓 issue 解決形成迭代閉環。

SWE-Review:給程式碼代理加一道 AI 審查,把改 bug 變成閉環

程式碼代理現在很會針對真實軟體問題自動生出 pull request(PR),但研究者 SWE-Review 點出一個結構性缺陷:這些代理往往是「開環」的——生一次 PR 就丟出去交差,沒有人回頭看它到底對不對、好不好。就像寫完作業從不檢查就交卷,錯了也不知道。SWE-Review 想補上的正是這道缺失的回饋環。

它的做法是加入代理式的程式碼審查(agentic code review):讓另一個 AI 代理去審查生成的 PR,挑毛病、提修改意見,再把回饋餵回去讓生成端修正,如此往復,把「解決 issue」從一次性的動作變成可迭代的閉環。這其實是在模仿人類工程團隊裡「寫程式—Code Review—改—再 Review」的真實工作流。

為什麼這重要?因為 AI 寫的程式碼要真的進到生產環境,缺的從來不只是「會寫」,而是「能自我把關」。一次生成的 PR 品質參差、常有隱藏 bug,靠人一個個審查又回到瓶頸。若審查這一環也能自動化、且真的抓得出問題,AI 參與軟體開發的可信度和自動化程度就能再上一階。

歸剛點評:這篇的方向很對——真正的軟體開發,價值一半在寫、一半在審。過去大家拚命讓 AI 會寫,卻忘了會審一樣關鍵。SWE-Review 補的是這塊拼圖。當然,AI 審 AI 有個經典風險:兩個都有一樣的盲點,可能一起漏掉同一種錯。閉環有沒有真的提升品質,還得看實測。

歸剛點評|AI 寫程式要進生產,會寫只是基本,能自我把關才是缺口,自動化的 code review 是關鍵拼圖。
工具

Hugging Face 讓 Transformers 直接跑出 vLLM 原生速度

Hugging Face 推出原生速度的 vLLM Transformers 建模後端,讓開發者用熟悉的 transformers 定義模型,就能拿到 vLLM 的推理效能。

Hugging Face 讓 Transformers 直接跑出 vLLM 原生速度

Hugging Face 發表一項工程整合:讓 vLLM 能以「原生速度」直接使用 transformers 的建模後端。白話說,過去你若想要 vLLM 那種高吞吐、低延遲的推理效能,模型往往得在 vLLM 裡另外實作一份;現在開發者可以繼續用熟悉的 transformers 定義模型,卻同時拿到 vLLM 的速度,兩邊不用再各養一套。

這解決的是一個長期存在的重複勞動。transformers 是研究和原型階段最普及的函式庫,好用、模型齊全;vLLM 則是生產階段跑推理的效能利器。但兩者過去像兩個世界,一個模型要能在 vLLM 上高速服務,常得有人再移植、再優化一次,中間既費工、又容易產生行為不一致的落差。

把兩者接起來,等於打通「研究到部署」的管線:新模型一在 transformers 裡定義好,就能近乎無縫地拿到生產級推理速度,中間的搬運成本大幅降低。對整個開源生態是實打實的加速——它降低的不是模型本身的門檻,而在「把好模型跑得又快又便宜」這件苦工上省了大力。

歸剛點評:這種底層水電工程不上頭條,卻是最實在的貢獻。它省掉的是無數工程師重複移植、對齊行為的隱形成本。當研究和部署共用同一套建模程式碼,整個社群迭代的速度都會變快。基礎設施打磨好,上面的人才跑得動——這才是開源生態真正的護城河。

歸剛點評|打通 transformers 與 vLLM,等於接上『研究到部署』的管線,降低把好模型跑快跑省的隱形成本。
來源:Hugging Face
社群

OpenAI 攜手華頓基金會,辦「AI 技能營」教 K-12 老師實戰

OpenAI Academy 與華頓家族基金會合作推出動手做的 AI Skills Jams,幫助 K-12 教師建立能帶進課堂的實戰 AI 技能。

OpenAI 攜手華頓基金會,辦「AI 技能營」教 K-12 老師實戰

OpenAI 旗下的教育計畫 OpenAI Academy 和華頓家族基金會(Walton Family Foundation)合作,推出一系列動手做的「AI Skills Jams」,目標是幫助 K-12(幼稚園到高中)的教師培養能實際帶進課堂的 AI 技能。重點放在「hands-on」——少講願景,多讓老師親手操作,學會怎麼把 AI 用在自己的教學裡。

會鎖定老師這個群體,切點很準。在 AI 進校園的討論裡,多數焦點都放在「怎麼防學生用 AI 作弊」,卻少人問「老師自己會不會用、敢不敢用」。如果第一線教師對 AI 陌生甚至恐懼,再好的教育政策都落不了地。先把老師的能力和信心建立起來,才有可能談 AI 如何真正改善教學,而非只是被動防堵。

這也是 OpenAI 生態經營的一步棋。免費辦師培、鋪進公立教育體系,短期是企業社會責任的漂亮敘事,長期則是讓 ChatGPT 這類工具及早進入教師與學生的日常習慣,培養未來的使用者基底。教育向來是科技公司搶佔心智的兵家必爭之地,這一點各家都心知肚明。

歸剛點評:把資源投在教老師,方向是對的——與其一味防作弊,不如先讓教育者自己搞懂這工具。當然要留意,企業辦的師培難免夾帶自家產品的視角,學校在擁抱的同時最好保持一點獨立判斷。但整體而言,讓第一線老師不再對 AI 兩眼一抹黑,是件好事。

歸剛點評|AI 進校園的討論多聚焦防作弊,卻少人問老師會不會用——先建立教師能力,政策才落得了地。
來源:OpenAI
觀點

工程師宣布『禁令』:團隊不准再用 AI 寫 PR 與 commit 訊息

開發者 Kenton Varda 宣布對團隊下達禁令,禁止用 AI 生成變更說明(PR、commit 訊息、issue),理由是這類內容失去了溝通價值。

工程師宣布『禁令』:團隊不准再用 AI 寫 PR 與 commit 訊息

Simon Willison 引述開發者 Kenton Varda 的一段發言:他對自己的團隊下了「禁令」,不准再用 AI 生成變更說明——包括 PR 描述、commit 訊息,還有 issue 和工單。理由是,這些由 AI 代寫的說明文字,正在失去它們原本存在的意義。這在一片「什麼都交給 AI」的風潮裡,是個逆向而清醒的聲音。

commit 訊息、PR 描述這類東西,表面上是形式文件,實際功能是「人對人的溝通」:作者告訴未來的同事(也包括未來的自己)——我改了什麼、為什麼這樣改、當時在想什麼。這裡面最值錢的是「為什麼」,而那是只有寫程式的人腦子裡才有的脈絡。AI 從 diff 反推出來的說明,往往只會複述「改了哪幾行」,卻答不出「為何」。

於是就出現一種空轉:作者懶得寫,讓 AI 生一段;讀者知道是 AI 生的,也就懶得認真讀。一份本該承載決策脈絡的文件,退化成雙方都略過的形式垃圾,溝通的價值被架空。Varda 的禁令,本質上是在搶救團隊協作裡「說清楚為什麼」這件正在被自動化稀釋掉的事。

歸剛點評:這個觀點很值得每個天天在用 AI 的人記著——不是所有事都該外包給模型。有些文字的價值恰恰在於「出自人腦、帶著意圖」,一旦代寫就歸零。AI 很會潤稿、很會複述,但它替不了你腦中那句「我為什麼要這樣做」。分清楚哪些能交、哪些不能交,才是會用工具的人。

歸剛點評|有些文字的價值在於出自人腦、帶著意圖,一旦交給 AI 代寫就歸零——分清界線才是會用工具。
研究

CanvasAgent:用視覺工具編排,讓複雜的圖像生成與編輯自動接力

新論文 CanvasAgent 針對複雜圖像創作常需多個模型接力的問題,讓一個代理編排合成、定位、編輯等視覺工具,串起完整流程。

CanvasAgent:用視覺工具編排,讓複雜的圖像生成與編輯自動接力

一篇新論文 CanvasAgent 針對一個實際痛點下手:複雜的圖像創作與編輯,往往一個生成或編輯模型搞不定。使用者一個請求裡,可能同時要合成新圖、要在圖裡精準定位某個物件、又要局部編輯——這需要好幾種能力接力,而不是單一模型一步到位。CanvasAgent 想當那個把流程串起來的總指揮。

它的核心是「視覺工具編排」(visual tool orchestration):讓一個代理去理解使用者的複雜意圖,把任務拆解成一連串子步驟,再調度合適的視覺工具依序完成——這張圖先生成、那個物件先定位、這塊區域再編輯。這其實是把近年很紅的 agent(代理)調度工具的思路,從文字、程式碼領域搬進了影像創作。

價值在於,真實世界的創作需求本來就是多步驟、有先後依賴的,而單一模型再強也難兼顧所有子任務。用一個會規劃、會調度的代理當中樞,等於把散落的專用工具組成一條自動化生產線,讓使用者只需講清楚要什麼,中間繁瑣的接力交給系統。這也呼應了今天 Meta Muse 強調的「agentic 生圖」大方向。

歸剛點評:影像生成的下一步,多半就是這種「代理調度多工具」的路數——因為專用模型各有所長,硬要一個模型全包不划算。把它們編排起來更務實。難點在於代理的規劃能力夠不夠聰明、拆解對不對,一步錯後面全歪。方向清楚,成敗看調度的腦子。

歸剛點評|把 agent 調度工具的思路搬進影像創作,反映生成式 AI 從『單一模型全包』走向『多工具編排』。

今日快訊