线性回归算法的梯度: 逻辑回归算法的梯度:

$$ \nabla J(\theta) = \frac{1}{m} \cdot
\begin{Bmatrix} \sum_{i=1}^m (\hat y^{(i)}-y^{(i)}) \ \sum_{i=1}^m (\hat y^{(i)}-y^{(i)})\cdot X_1^{(i)} \ \sum_{i=1}^m (\hat y^{(i)}-y^{(i)})\cdot X_2^{(i)} \ ... \ \sum_{i=1}^m (\hat y^{(i)}-y^{(i)})\cdot X_n^{(i)} \ \end{Bmatrix}
= \frac{1}{m}\cdot X_b^T\cdot (\sigma(X_b\theta)-y) $$