Embodied.cpp:把 llama.cpp 的哲學搬進機器人的身體
大型語言模型有 llama.cpp 把部署門檻打到地板,具身 AI 這邊卻還在各自為政:視覺語言動作模型(VLA)與世界行動模型(WAM)各綁各的 Python 堆疊、各有各的後端假設,換一台機器人就要重寫一層膠水代碼,在算力受限的邊緣裝置上尤其痛苦。Embodied.cpp 想當那個統一的地板。
論文點出的關鍵洞見是:既有推論 runtime 都是為「請求—回應」式服務設計的,具身部署的 runtime 契約完全不同——控制迴圈裡有多種頻率並存(感知慢、控制快),推論必須是延遲優先的 batch-1,而且要在異質的機器人算力上跑得動。拿伺服器思維的 serving 框架硬塞進機器人,水土不服是必然。
Embodied.cpp 的答案是一個可攜的 C++ 推論 runtime,把多速率閉環執行當成一級公民,統一承載 VLA 與 WAM 兩大類模型,目標是讓同一套模型資產能在不同機器人硬體之間搬遷,不用每次都重新發明部署層。
搭配今天另一條 LeRobot v0.6.0 的新聞一起看很有意思:訓練側的開源堆疊在 Hugging Face 手上快速標準化,部署側的「機器人界 llama.cpp」之爭才剛開打。誰先變成預設選項,誰就掌握下一波具身應用的入口。
歸剛點評|台灣的機器人與工控廠商多半卡在同一關:模型在工作站上跑得好好的,塞進產線邊緣裝置就得整組重工。部署 runtime 標準化的賽道值得早點下注——搞不好比模型本身更接近台廠的甜蜜點,畢竟異質硬體整合是我們的傳統藝能。