恩佐2登录 > SEO攻略 > 谈谈优化算法(动量法、Nesterov法、自然梯度法)

谈谈优化算法(动量法、Nesterov法、自然梯度法)

admin SEO攻略 2020年01月12日

  是时候谈谈优化算法了。不管是求解优化目标还是为了调参,只要问题从理论层面上升到实际操作层面,就离不开优化算法。本节讲主要围绕梯度下降(Gradient Descent)算法展开。

  观察比较(a)(b)时可知,当折扣率变大时,对历史梯度的记忆更多,下一步梯度方向会没这么容易改变过来(从图上直观理解,(b)扭转程度不如(a),新宝7登录即(b)的震荡更明显)。

  当优化问题的两个坐标轴尺度差异较大时,动量法在更新过程中会出现震荡问题,Nesterov算法给出了初步解决,但这两种方法有一个共性,就是都是从参数的角度去优化模型的,新宝7恩佐登录那有没有可能从模型本身角度来考虑呢?——这就是自然梯度法。在强化学习的Natural Actor-Critic算法和TRPO算法中,自然梯度法是强有力的优化工具。

  以Fisher矩阵替代并采用拉格朗日乘子法解带约束的优化问题,原问题变为

标签: seo算法