【日記】6月5日

機械学習系のライブラリを使わずに，Javaで簡単なニューラルネットワークをつくっている．簡単に作りすぎて精度はあまり良くない．入力の次元が大きいからなんとなく隠れ層を増やしてみる，とかやってもこれだけではあまり改善されない．

本で読んだ，各層の幾つかのニューロンを無効化した上でバックプロパゲーション学習をする「Dropout」という手法を取り入れてみると良いかもしれない．

初めてのディープラーニング --オープンソース"Caffe"による演習付き

それにしても学習に時間がかかるので，毎回の試行の際にweight，biasや最終的な精度などの必要情報を保持しておくようにしないと，同じことを繰り返しやるようでは時間がもったいない．

世の中には，優れたライブラリがたくさん存在するけれど，最初の一歩にいるうちは自力でお手製のニューラルネットの設計をしてみるのも楽しい．