世界模型101

四家实验室都会告诉你他们在做世界模型，而他们指的是四件互不相容的事。一家生成你可以操控的视频。一家产出机器人可以在里面训练的三维几何。一家学出一个紧凑的模拟器，并在上面做规划。还有一家预测嵌入向量，然后把预测扔掉。

第五拨人根本不是在描述一个系统。当人们争论一个语言模型「有没有世界模型」时，他们讲的是在为别的任务训练出来的网络内部发现的结构，用的是可解释性证据，而不是任何你能运行的东西。两个人可以在每一个事实上都一致，却依然争执不下，因为一个问的是系统能不能模拟，另一个问的是网络内部有没有某种东西。

命名的混乱底下是一个真实而古老的题目。它从卡尔曼滤波器一路延伸到 Schmidhuber 1990 年的论文，再到 Dreamer、JEPA、Genie 和 Marble。相关文献极其庞大，而且几乎全都是写给已经读过它们的人看的。

所以：九章，每一章都围绕你可以亲手拨弄的东西。除了熟悉梯度和一点线性代数以外没有别的前置要求。第 1 章是这份指南；之后全部是机制，并且在重要的地方都会说明用的是哪一种定义。