线性回归算法的梯度:
逻辑回归算法的梯度:
∇J(θ)=1m⋅{∑mi=1(ˆy(i)−y(i)) ∑mi=1(ˆy(i)−y(i))⋅X(i)1 ∑mi=1(ˆy(i)−y(i))⋅X(i)2 ... ∑mi=1(ˆy(i)−y(i))⋅X(i)n }=1m⋅XTb⋅(σ(Xbθ)−y)
线性回归算法的梯度:
逻辑回归算法的梯度:
∇J(θ)=1m⋅{∑mi=1(ˆy(i)−y(i)) ∑mi=1(ˆy(i)−y(i))⋅X(i)1 ∑mi=1(ˆy(i)−y(i))⋅X(i)2 ... ∑mi=1(ˆy(i)−y(i))⋅X(i)n }=1m⋅XTb⋅(σ(Xbθ)−y)