論文：世界模型的幻覺可預測也可預防
生
成
式
世
界
模
型
能
渲
染
出
越
來
越
逼
真
、
還
能
被
動
作
控
制
的
未
來
畫
面
，
被
視
為
機
器
人
與
自
駕
模
擬
的
重
要
基
礎
。
但
一
篇
H
u
g
g
i
n
g
F
a
c
e
論
文
指
出
它
們
有
個
老
毛
病
：
經
常
出
現
幻
覺
—
—
畫
面
看
起
來
流
暢
漂
亮
，
內
容
卻
在
物
理
或
邏
輯
上
站
不
住
腳
，
模
型
等
於
在
編
一
個
視
覺
上
可
信
、
實
際
上
虛
假
的
世
界
。
這
篇
研
究
的
好
消
息
是
，
這
類
幻
覺
不
是
隨
機
亂
跳
、
無
從
掌
握
的
。
作
者
發
現
幻
覺
其
實
是
可
預
測
的
，
而
且
既
然
可
預
測
，
就
有
機
會
在
它
發
生
之
前
先
一
步
防
範
。
把
問
題
從
「
模
型
偶
爾
會
胡
來
、
只
能
事
後
察
覺
」
推
進
到
「
我
們
能
事
先
知
道
它
哪
裡
容
易
出
錯
、
並
提
前
處
理
」
，
對
任
何
要
靠
世
界
模
型
做
決
策
的
系
統
都
是
關
鍵
差
別
。
放
到
自
駕
、
機
器
人
與
具
身
智
慧
的
脈
絡
看
，
這
件
事
的
份
量
不
小
。
當
系
統
要
根
據
模
型
想
像
出
來
的
未
來
去
行
動
，
一
個
沒
被
攔
下
的
幻
覺
可
能
就
是
一
次
真
實
世
界
的
失
誤
。
能
預
測
、
能
預
防
，
意
味
著
這
些
系
統
有
機
會
在
部
署
前
把
可
靠
性
拉
到
一
個
能
信
任
的
水
準
，
而
不
是
只
能
祈
禱
模
型
今
天
表
現
正
常
。
歸剛點評｜世界模型最怕的就是畫面漂亮但內容唬爛，拿去開車或控機器人會出事。這篇證明幻覺有跡可循、能提前擋，等於把它從玄學變成工程問題。對自駕和機器人這種輸不起的場景，可預防三個字最值錢。
來源：Hugging Face