読者です 読者をやめる 読者になる 読者になる

#daiizメモ

フレンチフライ トリュフ塩仕立て

技術ネタはてブ数が多いごはん情報

スポンサーリンク

ニューラルネットワークの内積

入力ベクトル(入力層のニューロン  x_i の集まり)を  X = (x_1, x_2, x_3, x_4),出力ベクトル(出力層のニューロン  h_j の集まり)を  H = (h_1, h_2, h_3)とする.また,この2つの層間の重みを表す行列を  W,バイアスを  B = (b_1, b_2, b_3) とする.行列  W の構成要素は以下のようにインデックスを振る.

f:id:daiiz:20161114024547p:plain

行列内要素  w_{ji} は,入力層の  i 番目のニューロンから出力層の  j 番目のニューロンへの重みを表す.

入力層と出力層のみからなる超シンプルなニューラルネットワークは下の図のように描ける.今回は出力層と設定した層内のそれぞれのノードの入力に対して活性化関数を作用させて次の層に繋いでいこうと考えれば,これを中間層として扱うこともできる.

f:id:daiiz:20161114023945j:plain

入力層の各ニューロンに与えられた値は,重みを掛けてバイアスを足されて,次の層に反映される.出力層内のある1つのニューロン  h_j を見てみると,これに対する入力は次式のように書ける.

f:id:daiiz:20161114024719p:plain

出力層のノード  h_1, h_2, h_3, h_4 に関してこのような計算を行えば,出力ベクトル  H を求めることができる.この計算がやっていることは,「入力ノードの値と対応する重みを掛けて,最後にバイアス項を足す」という処理を繰り返しているだけなので,以下のように行列の内積演算の形で立式することもできる.

$$ H = X \cdot W + B $$

これは高校数学で言うと, (1 \times 4) の形の行列と  (4 \times 3) の形の行列の内積を解いて,おまけにもう1つの行列を足すという問題になる.高校生の頃は「内積するもの同士の行と列の要素数を揃えて...」くらいのことしか考えていなかったので,当時に上のネットワークのようなイメージが描けていたらもっと楽しかったのだろうなと思う.

PythonでNumPyを使ってプログラムを書くときも,出力ノード  h_j に関するforループを回すよりもNumPyの内積演算を利用したほうが高速に解ける.

import numpy as np

H = np.dot(X, W) + B