global_step
2024-08-27 19:37:42
global_step=tf.Variable(0, trainable=False)
设定trainable=False 可以防止该变量被数据流图的 GraphKeys.TRAINABLE_VARIABLES 收集, 这样我们就不会在训练的时候尝试更新它的值。
train_step = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss,global_step=global_steps)
因为指数衰减的学习率是伴随global_step的变化而衰减的,所以当global_step不改变时,学习率也变成一个定值。
综上所述:损失函数优化器的minimize()中global_step=global_steps能够提供global_step自动加一的操作。
这里有个额外的疑虑说明:global_steps是等号右边,在编程语言里面通常当作定值(即不会受函数影响)赋值给等号左边的global_step。然而,在这个优化器里面能够使得右边的变量自动加一。这确实是编程语言里面少见的,也是需要特别注意的。
最新文章
- scrollview 嵌套 折叠效果
- COG注释--转载
- JAVA开发错误总结(仅记录遇到的错误---后续不断更新......)
- stm32通用定时器步骤
- quartz学习
- 介绍开源的.net通信框架NetworkComms框架 源码分析(九) IPConnection
- T-SQL 的简单查询语句
- 做完c语言作业的心得
- CareerCup Chapter 9 Sorting and Searching
- [转]Asp.Net调用前台js调用后台代码分享
- perl 调用按钮输出到文本框
- javascript第十六课:动态注册事件
- [CSS3] 学习笔记-CSS3选择器详解(一)
- Visual Studio AI环境记录(Windows10)
- Liferay7 BPM门户开发之11: Activiti工作流程开发的一些统一规则和实现原理(完整版)
- 全网最详细的IDEA里如何正确新建普通的Java web项目并发布到Tomcat上运行成功【博主强烈推荐】(类似eclipse里同一个workspace下【一个子项目】并存)(图文详解)
- Spring Cloud集成EDAS(替代Eureka)
- Revit对齐工具之多重对齐
- Nginx性能优化
- ubuntu16.04安装tensorflow-gpu和cuda8.0加速训练