悦月直播免费版app下载 - 悦月直播app大全下载最新版本免费安装软件

基于自適應動量更新策略的Adams算法

  • 打印
  • 收藏
收藏成功


打開文本圖片集

摘要：Adam算法是目前最常用的優(yōu)化算法之一，但其面臨學習率震蕩導致模型不收斂問題，其改進算法AMSGrad也存在梯度遞減導致的二階動量失效問題。針對上述問題，提出了基于自適應動量更新策略的Adams算法。首先，通過為一階動量和二階動量引入自適應更新參數，并在最后的參數更新期間采用較小的一階動量更新參數，構建了一種自適應的動量更新策略。（剩余9449字）

monitor