梯度

散度公式从入门到放弃：深度研究自然梯度优化

生活百科

散度公式从入门到放弃：深度研究自然梯度优化

现在的深度学习模型都使用梯度下降法来进行训练。注意，我们的梯度实际上是一个向量，也就是相对于...

2年前 340

蚁群算法的优缺点常见的几种最优化方法

生活百科

蚁群算法的优缺点常见的几种最优化方法

梯度下降法是最早最简单，也是最为常用的最优化方法。在各种优化算法中，共轭梯度法是非常重要的一...

3年前 829

链式求导法则 AI 框架基础技术之自动求导机制 (Autograd)

生活百科

链式求导法则 AI 框架基础技术之自动求导机制 (Autograd)

SenseParrots，介绍框架自动求导的实现方式。自动求导机制介绍自动求导机制介绍框架中...

3年前 794