【线性回归】梯度下降、牛顿法，最小二乘法的

最佳预测系数推导 E[d2]=E[(S(k)−Se(k))2]=E[(S(k)−∑i=1NaiS(k−i))2]E[d^2]=E[(S(k)-S_e(k))^2]=E\Bigg[\bigg(S(k)-\sum_{i=1}^Na_iS(k-i)\bigg)^2\Bigg]E[d2]=E[(S(k)−Se​(k))2]=E[(S(k)−i=1∑N​ai​S(k−i))2] 对系数 aia_iai​ 求偏导，使偏导数等于0： ∂E[d2]∂ai=0，i=0,1,2......,N\frac{\partial E[