はじめに 自動微分と勾配テープでつまずいているので、調査しまとめることにしました。 主に以下のサイトを参考にしました。 公式より、「自動微分と勾配テープ」とは TensorFlow には、自動微分、すなわち、入力変数に対する計算結果の勾配を計算するためのtf.GradientTape API があります。TensorFlow は、tf.GradientTape のコンテキスト内で行われる演算すべてを「テープ」に「記録」します。その後 TensorFlow は、そのテープと、そこに記録された演算ひとつひとつに関連する勾配を使い、トップダウン型自動微分（リバースモード）を使用して、「記録」された計算の勾配を計算します。 レポジトリはこちらです。 import import tensorflow as tf 基礎 １回微分 y = x^2 を微分して見ます。 \frac{dy}{dx} = 2x \\ \frac{dy}{dx} |_{x=8} = 16 操作は、このコンテキストマネージャー内で実行され、その入力の少なくとも1つが「監視」されている場合に記録されます。 x = tf.constant(8.0) # 8.0, shape=() with tf.GradientTape() as t: t.watch(x) y = x * x # 元の入力テンソル x に対する z の微分 dy_dx = t.gradient(y, x) # 16.0, shape=() ２回微分 y = x^2 を微分して見ます。 \frac{dy}{dx} = 2x \\ \frac{dy^2}{d^2x} = 2 \\ x = tf.constant(3.0) # 3.0, shape=() print(x) with tf.GradientTape() as t: t.watch(x) with tf.GradientTape() as tt: tt.watch(x) y = x * x dy_dx = tt.gradient(y, x) # 6.0, shape=() dy2_dx2 = t.gradient(dy_dx, x) # 2.0, shape=() 定数で微分できない場合 公式サイトによれば、微分できない場合は, '1' のテンソルを返すそうです。 x = tf.constant(8.0) # 8.0, shape=() with tf.GradientTape() as t: t.watch(x) y = x dy_dx = t.gradient(y, x) # 1.0, shape=() 制御フローの記録 勾配テープは演算を実行の都度記録するため、（たとえば if や while を使った）Python の制御フローも自然に扱われます。 def f(x, y): output = 1.0 for i in range(y): if i > 1 and i < 5: output = tf.multiply(output, x) return output def grad(x, y): with tf.GradientTape() as t: t.watch(x) out = f(x, y) return t.gradient(out, x) x = tf.convert_to_tensor(2.0) grad(x, 6).numpy() # 12.0 勾配テープ内で使用するメソッド テンソルのまま処理できます。 よく使うメソッド reduce_sum = 配列内のすべての要素を足し算する関数 multiply = テンソルの要素の掛け算する関数 z = y^2 \\ \frac{dz}{dy} = 2x \\ \frac{dz}{dy} |_{x=4} = 8 より \frac{dz}{dx} = 8 \cdot \begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix} =\begin{bmatrix} 8 & 8 \\ 8 & 8 \end{bmatrix} x = tf.ones((2, 2)) # x = [[1. 1.] [1. 1.]] with tf.GradientTape() as t: t.watch(x) y = tf.reduce_sum(x) # 4.0, shape=() z = tf.multiply(y, y) # 16.0, shape=() dz_dx = t.gradient(z, x) # [[8. 8.] [8. 8.]], shape=(2, 2) ループ add = 関数の足し算 less = 未満の条件式 i = tf.constant(0) c = lambda i: tf.less(i, 10) # b = lambda i: (tf.add(i, 1), ) def b(i): print(i) return (tf.add(i, 1), ) r = tf.while_loop(c, b, [i]) tf.Tensor(0, shape=(), dtype=int32) tf.Tensor(1, shape=(), dtype=int32) tf.Tensor(2, shape=(), dtype=int32) tf.Tensor(3, shape=(), dtype=int32) tf.Tensor(4, shape=(), dtype=int32) tf.Tensor(5, shape=(), dtype=int32) tf.Tensor(6, shape=(), dtype=int32) tf.Tensor(7, shape=(), dtype=int32) tf.Tensor(8, shape=(), dtype=int32) tf.Tensor(9, shape=(), dtype=int32) Out[27]: (<tf.Tensor: shape=(), dtype=int32, numpy=10>,) 指定したインデックスを出力 gather_nd = テンソルと、そのテンソル内の位置を表すインデックスを提供します。指定したインデックスに対応するテンソルの要素を返します。第一引数は、探すテンソル、第二引数は、そのインデックスを指定します。 一次元配列の場合 x = tf.constant([0.1, 0.1, 1.5, 4.5, 3.6, 1.2]) y = tf.constant([3.1, 2.3, 1.4, 2.3, 4.4, 3.1]) uniqueIndices = tf.constant([0, 1, 2, 3, 4, 5]) x = tf.gather_nd(x, uniqueIndices[:,None]) y = tf.gather_nd(y, uniqueIndices[:,None]) tf.multiply(x, y) # shape=(6,), array([ 0.31 , 0.23 , 2.1 , 10.349999, 15.84 , 3.72 ]) array([ 0.31 , 0.23 , 2.1 , 10.349999, 15.84 , 3.72 ]) の間が空いているのは、その分のメモリを開けているからだと思われます。 二次元配列の場合 x = [[1,2,3],[4,5,6]] y = tf.gather_nd(x, [[1,1],[1,2]]) # shape=(2,) numpy=array([5, 6], dtype=int32) 条件分岐 less = 大小比較のメソッド cond = いわゆるif。条件分岐します。 x = tf.constant(2) y = tf.constant(5) def f1(): return tf.multiply(x, 17) def f2(): return tf.add(y, 23) r = tf.cond(tf.less(x, y), f1, f2) rはf1（）の値が設定されます。f2の操作（例：tf.add）は実行されません。 (x= 2, r = 34) 関数 公式より tf.functionを用いてある関数にアノテーションを付けたとしても、一般の関数と変わらずに呼び出せます。一方、実行時にはその関数はグラフへとコンパイルされます。これにより、より高速な実行や、 GPU や TPU での実行、SavedModel へのエクスポートといった利点が得られます。 @tf.function def mini_func(x): return x * x x = tf.constant(5.0) with tf.GradientTape() as t: t.watch(x) result = mini_func(x) dy_dx = t.gradient(result, x) print(dy_dx) # tf.Tensor(10.0, shape=(), dtype=float32) constantとVariableの違いについて TensorFlowにおけるconstantとVariableの違いは、constantを宣言した場合、その値は将来的に変更できない（また、初期化は操作ではなく値で行う必要がある）ことです。 また、デフォルトでは、GradientTapeは、コンテキスト内でアクセスされるすべてのtrainable変数を自動的に監視します。(t.watch(v)しなくてよい。) constantの場合 @tf.function def mini_func(x): return x * x x = tf.constant(5.0) with tf.GradientTape() as t: t.watch(x) result = mini_func(x) dy_dx = t.gradient(result, x) print(dy_dx) # tf.Tensor(10.0, shape=(), dtype=float32) Variableの場合 @tf.function def mini_func(x): return x * x x = tf.Variable(5.0) with tf.GradientTape() as t: result = mini_func(x) dy_dx = t.gradient(result, x) print(dy_dx) # tf.Tensor(10.0, shape=(), dtype=float32) クリッピング clip_value_min ≤ value ≤ clip_value_max の場合は value または - value < clip_value_min の場合は clip_value_min または - clip_value_max < value の場合は clip_value_max t = tf.constant([[-10., -1., 0.], [0., 2., 10.]]) t2 = tf.clip_by_value(t, clip_value_min=-1, clip_value_max=1) t2.numpy() array([[-1., -1., 0.], [ 0., 1., 1.]], dtype=float32) -1 ≤ value ≤ 1 の場合は value または - value < -1 の場合は -1 または - 1 < value の場合は 1 を満たす形になっていることがわかります。 tensorの操作 全て0のtensorを作る tf.zeros([2, 3]) <tf.Tensor: shape=(2, 3), dtype=float32, numpy= array([[0., 0., 0.], [0., 0., 0.]], dtype=float32)> 全て1のtensorを作る tf.ones((2, 3)) <tf.Tensor: shape=(2, 3), dtype=float32, numpy= array([[1., 1., 1.], [1., 1., 1.]], dtype=float32)> 全て同じ値のtensorを作る tf.fill([2, 3], 9) <tf.Tensor: shape=(2, 3), dtype=int32, numpy= array([[9, 9, 9], [9, 9, 9]], dtype=int32)> キャスト tf.float32に揃えていないことで、以下のエラー文が出ます。なので、揃っていない時は、揃えましょう。 InvalidArgumentError: cannot compute Mul as input #1(zero-based) was expected to be a float tensor but is a double tensor [Op:Mul] labels = tf.constant([0, 3, 1]) print(labels) tf.cast(labels, tf.float32) tf.Tensor([0 3 1], shape=(3,), dtype=int32) <tf.Tensor: shape=(3,), dtype=float32, numpy=array([0., 3., 1.], dtype=float32)> numpyに変換 tensorに慣れてないうちは、かなり使います。 labels = tf.constant([0, 3, 1]) print(labels) labels.numpy() tf.Tensor([0 3 1], shape=(3,), dtype=int32) array([0, 3, 1], dtype=int32)