LESSON wm.0.3 · 代码 · 140 分钟

造一个最小可运行世界模型

造一个最小可运行世界模型:理解GridWorld、action-conditioned dynamics、rollout、模型预测控制,完成“训练下一状态预测器并让智能体用想象选动作”。属于「从语言走向世界」学习阶段。

学完你应该能够

  1. 能不用术语堆砌,解释「造一个最小可运行世界模型」解决了什么问题。
  2. 能围绕 GridWorld、action-conditioned dynamics、rollout 画出变量与因果关系。
  3. 能完成「训练下一状态预测器并让智能体用想象选动作」,并用证据而不是感觉判断结果。

核心概念

GridWorld

GridWorld把候选动作送入学习到的转移模型,得到后续状态或观察的预测轨迹;模型预测控制比较整条轨迹的目标值与约束,只执行当前一步再根据新观察重规划。必须同时报告单步误差和多步滚动失败率。

action-conditioned dynamics

action-conditioned dynamics把候选动作送入学习到的转移模型,得到后续状态或观察的预测轨迹;模型预测控制比较整条轨迹的目标值与约束,只执行当前一步再根据新观察重规划。必须同时报告单步误差和多步滚动失败率。

rollout

rollout把候选动作送入学习到的转移模型,得到后续状态或观察的预测轨迹;模型预测控制比较整条轨迹的目标值与约束,只执行当前一步再根据新观察重规划。必须同时报告单步误差和多步滚动失败率。

模型预测控制

模型预测控制把候选动作送入学习到的转移模型,得到后续状态或观察的预测轨迹;模型预测控制比较整条轨迹的目标值与约束,只执行当前一步再根据新观察重规划。必须同时报告单步误差和多步滚动失败率。

实践任务

训练下一状态预测器并让智能体用想象选动作

  • 预测:在运行代码前,写下你预期的输出、趋势或失败位置。
  • 构建:先写接口和 shape 断言,只保留回答核心问题所需的最小组件。
  • 验证:使用状态转移表、手算 belief update 与多步 rollout 成功率;保存参数、随机种子与原始结果。
  • 迁移:增加部分可观察性、随机性或新动作后重新规划,说明原结论是否仍成立。

进入完整互动课程