LESSON 1.5 · 代码 · 120 分钟
从 Value 到 Neuron、Layer、MLP
从 Value 到 Neuron、Layer、MLP:理解参数容器、模块组合、前向图,完成“用 50 行代码搭 MLP”。属于「神经网络地基」学习阶段。
学完你应该能够
- 能不用术语堆砌,解释「从 Value 到 Neuron、Layer、MLP」解决了什么问题。
- 能围绕 参数容器、模块组合、前向图 画出变量与因果关系。
- 能完成「用 50 行代码搭 MLP」,并用证据而不是感觉判断结果。
核心概念
参数容器
参数容器要放回前向数值—局部导数—参数更新这条链中,观察它怎样改变最终 loss。 先给它一个可操作的定义,并指出它解决的具体问题。
模块组合
模块组合要放回前向数值—局部导数—参数更新这条链中,观察它怎样改变最终 loss。 把它放进前后依赖中:输入从哪里来,输出会改变谁。
前向图
前向图要放回前向数值—局部导数—参数更新这条链中,观察它怎样改变最终 loss。 写出至少一个不变量、shape 约束或成立条件。
实践任务
用 50 行代码搭 MLP
- 预测:在运行代码前,写下你预期的输出、趋势或失败位置。
- 构建:先写接口和 shape 断言,只保留回答核心问题所需的最小组件。
- 验证:使用有限差分、PyTorch 对拍与梯度统计;保存参数、随机种子与原始结果。
- 迁移:增加分支、共享参数或更换激活函数后检查梯度,说明原结论是否仍成立。