adaptive moment estimation(自适应矩估计)

tf.train.AdamOptimizer(
learning_rate=0.001,
beta1=0.9,
beta2=0.999,
epsilon=1e-08,
use_locking=False,
name='Adam'
)
参数:
learning_rate: (学习率)张量或者浮点数
beta1:  浮点数或者常量张量 ,表示 The exponential decay rate for the 1st moment estimates.
beta2:  浮点数或者常量张量 ,表示 The exponential decay rate for the 2nd moment estimates.
epsilon: A small constant for numerical stability. This epsilon is "epsilon hat" in the Kingma and Ba paper (in the formula just before Section 2.1), not the epsilon in Algorithm 1 of the paper.
use_locking: 为True时锁定更新
name:  梯度下降名称,默认为 "Adam"

最新文章

  1. C#socket通信-----多线程
  2. IE8下ajax请求失败的解决方案
  3. BroadcastRecevier广播接受者
  4. Spring MVC 教程,快速入门,深入分析(转)
  5. Linux/Unix mac 命令笔记
  6. JavaScript之作用域与作用域链
  7. Swift 版本历史记录(关注)
  8. SQLAlchemy表操作和增删改查
  9. Objective-C特有类型——id
  10. 使用AForge.NET Framework打开摄像头并截图 C#
  11. TexStudio + TexLive 修改字体大小
  12. C/C++基础----随机数分布和随机数引擎
  13. export,import ,export default是什么
  14. git-常用命令一览表
  15. centos6.5 yum安装lamp
  16. CentOS 加载/挂载 U盘 (转)
  17. 【开源】检查更新程序 CheckUpdate.Net 的实现
  18. contract
  19. JSTL标签总结备用
  20. 水灾 1000MS 64MB (广搜)

热门文章

  1. strongsan基本用法
  2. SCF(SenparcCoreFramework) 系列教程(一):项目介绍及快速搭建
  3. python使用pip安装模块出现ReadTimeoutError: HTTPSConnectionPool的解决方法
  4. Hive支持的文件格式和压缩格式及各自特点
  5. 【笔记3-31】Python语言基础-序列sequence
  6. 使用wrd2vec构建推荐系统
  7. 干货 | NLP算法岗大厂面试经验与路线图分享
  8. Linux常用命令 - find命令基础使用(重点)
  9. 使用FME对CAD管网数据进行过滤、聚合、中心点替换
  10. 《Mathematical Analysis of Algorithms》中有关“就地排列”(In Situ Permutation)的算法分析