LeCun 背書的法國新創 ZML 開源 LLMD:跨多種 AI 晶片加速推理
法國 AI 新創 ZML 推出一款免費軟體 ZML/LLMD,主打讓 AI 推理能跨多種晶片高效運行,藉此壓低跑模型的成本。這家公司背後站著圖靈獎得主、Meta 首席 AI 科學家 Yann LeCun 的公開背書——在 AI 圈,LeCun 的名字本身就是一種篩選信號,會讓外界對一個名不見經傳的歐洲團隊多看兩眼。
它解決的痛點很具體:現在跑大模型的軟體堆疊高度綁定特定硬體,最典型的就是 Nvidia 的 CUDA 生態,導致企業一旦選了某家晶片就很難換,議價能力也弱。LLMD 想做的是一層抹平硬體差異的中介,讓同一份模型能在不同廠牌的晶片上跑,把選擇權還給用戶,順帶把推理成本打下來。
而且它選擇免費、開源這條路,意圖很清楚:先靠零門檻鋪開生態、累積開發者,再談商業化。這和今天 SambaNova 衝估值、Prime Intellect 幫企業自建是同一組主旋律的不同聲部——大家都在圍繞「別被 Nvidia 和巨頭鎖死」這件事各自出招,有人做硬體、有人做軟體、有人做服務。
歸剛點評:跨晶片這件事講了很多年,難就難在每家硬體的脾氣都不一樣,抹平差異往往要犧牲效能。ZML 有 LeCun 背書、又走開源,起手式漂亮,但真正的考驗是實測跑起來到底掉多少速度、支援幾種晶片。能兼顧通用與效能,這軟體才有殺傷力。
歸剛點評|跨晶片推理軟體想抹平硬體綁定,是產業『去 Nvidia 化』在軟體層的關鍵一手。
來源:TechCrunch