Tensorflow 学习笔记 -----gradient

Tensorflow 的求梯度函数：

[db, dW, dx] = tf.gradient(C, [b, w, x])

在调试时用处较大。

实例：

import tensorflow as tf

import numpy as np

w1 = tf.Variable(2.0)

w2 = tf.Variable(3.0)

a = tf.multiply(w1,w2)

g = tf.get_default_graph()

with g.gradient_override_map({"Sign":"Identity"}):

    clip = tf.sign(a)

gradients = tf.gradients(clip, xs=[w1, w2])

with tf.Session() as sess:

    tf.global_variables_initializer().run()

    print(sess.run(gradients))

>>[3.0,2.0]

此外，更加深度的应用见：

https://zhuanlan.zhihu.com/p/23060519

详细的解释了tensorflow中梯度的累计以及异步实现

巴特西

Tensorflow 学习笔记 -----gradient

最新文章

热门文章