Gradient Descent Demo
把“训练线性模型”这件事直接画出来
这个示例用一批散点来训练模型 y = a + bx。你会看到参数 a 和 b
从随机初值开始,通过梯度下降不断更新,拟合直线逐步贴近数据点,同时损失函数逐步下降。
训练过程
左图看拟合直线如何靠近数据,右图看损失如何下降。
数据点与拟合直线
真实数据点
当前拟合直线
真实目标直线
1. 数据是什么
每个点都有输入 x 和真实输出 y。训练就是让模型预测值 ŷ 尽量接近真实值 y。
2. 梯度是什么
梯度告诉你“损失增大的方向”。参数往负梯度方向走,损失通常会下降。
3. 学习率太大怎么办
如果学习率太大,直线会来回震荡,损失可能不降反升。这正是训练不稳定的直观表现。