LESSON 1.1 · 直觉 · 75 分钟

神经元不是魔法:函数、参数与激活

神经元不是魔法:函数、参数与激活:理解线性组合、非线性、表达能力与决策边界,完成“手工搭一个二输入神经元”。属于「神经网络地基」学习阶段。

学完你应该能够

  1. 能不用术语堆砌,解释「神经元不是魔法:函数、参数与激活」解决了什么问题。
  2. 能围绕 线性组合、非线性、表达能力与决策边界 画出变量与因果关系。
  3. 能完成「手工搭一个二输入神经元」,并用证据而不是感觉判断结果。

核心概念

线性组合

线性组合把一组输入方向重新混合为输出方向。对神经网络而言,每个输出维都是输入维的加权和;批次维不参与混合,因此必须能逐维说清权重矩阵的含义。

非线性

非线性要放回前向数值—局部导数—参数更新这条链中,观察它怎样改变最终 loss。 把它放进前后依赖中:输入从哪里来,输出会改变谁。

表达能力与决策边界

表达能力与决策边界要放回前向数值—局部导数—参数更新这条链中,观察它怎样改变最终 loss。 写出至少一个不变量、shape 约束或成立条件。

实践任务

手工搭一个二输入神经元

  • 预测:在运行代码前,写下你预期的输出、趋势或失败位置。
  • 构建:从一个可手算例子开始,只保留回答核心问题所需的最小组件。
  • 验证:使用有限差分、PyTorch 对拍与梯度统计;保存参数、随机种子与原始结果。
  • 迁移:增加分支、共享参数或更换激活函数后检查梯度,说明原结论是否仍成立。

进入完整互动课程