什么是导数

tensorFlow会自动使用反向传播来计算倒数并使用梯度下降或者adam来训练神经网络参数因此反向传播算法计算了代价函数相对于参数的倒导数是神经网络的关键算法那么他是如何工作的呢让我们看一看反向传播是如何计算倒数的。会涉及到微积分微积分就是 自变量增加了很小很小的量因变量会增加几倍这个几倍能是一个倍数也可能是一个公式官方定义当W增加一个非常微小的v值j(w)会增加K倍的v,,那么j对w的导数就是K导数大小代表着对参数W的变化对函数影响程度的变化导数的 计算和绘图导数就是这一个点的斜率。有一个Sympy的库可以自己计算导数导数的两种表达形式