有人能解释一下在没有成本函数的情况下如何做梯度下降问题吗?我已经看过无数的使用成本函数解释梯度下降的教程,但我真的不明白它是如何在更一般的意义上工作的。
我有一个3D功能:
Z=3*(1-xx)
2)*np.exp(—(xx)
2)-(YY+ 1)
2)
-10*(XX/5-XX)
3 YY
5)*NP.EXP(-xx)
2 YY
2)-(1/3)*NP.EXP(-XX+1)**2-年
2)
我被要求:
编写一个简单的梯度算法。设置参数如下:
-
学习率=步长:0.1
-
最大迭代次数:20
-
停止条件:0.0001(当渐变小于阈值时,迭代应停止)
然后从
-
(x0=0.5,y0=-0.5)
-
(x0=-0.3,y0=-0.3)
我已经看到这段代码在任何讨论梯度下降的地方浮动:
def update_weights(m, b, X, Y, learning_rate):
m_deriv = 0
b_deriv = 0
N = len(X)
for i in range(N):
# Calculate partial derivatives
# -2x(y - (mx + b))
m_deriv += -2*X[i] * (Y[i] - (m*X[i] + b))
# -2(y - (mx + b))
b_deriv += -2*(Y[i] - (m*X[i] + b))
# We subtract because the derivatives point in direction of steepest ascent
m -= (m_deriv / float(N)) * learning_rate
b -= (b_deriv / float(N)) * learning_rate
return m, b
enter code here
但我不知道如何用它来解决我的问题。我的功能在那里如何?我应该调整什么而不是M和B?我很困惑。
谢谢您。