事前学習の利用

ファインチューニング(Fine-tuning) 転移学習

➡ ネットワーク全体のパラメータを教師あり学習で更新すること。その名称。

 

特徴:より適当なパラメータを用意できること(※1事前学習なしだと、ネットワークのパラメータは乱数によって初期化されるので、※2学習効率が良くない)。また、あらかじめ、チューニングしておくことで、データ不足でもこなせたり、所要時間の短縮を行うことが出来る。

★kerasで用意されているチューニングには以下のようなものがある。

・Xception

・VGG16 (畳み込み層13層、結合3層)

・VGG19 (畳み込み層16層、結合層3層)

・ResNet50

・InceptionV3

 

 オートエンコーダ(自己符号器)

 ➡ 自分自身のデータが出力と一致するようにとなるようにパラメータを学習させる

特徴

→ 活性化関数を非線形にすることができる。入力に合わせたパラメータを設定できる。(特徴の抽出が可能)

 

f:id:JedenTag:20171011224906p:plain

 

 

 

※1事前学習

→ 別の学習済みのモデルのパラメータをコピーする。そのコピーをパラメータの初期値として使用すること。

※2学習効率が良くない

→ データが大量にある場合はラベル化(CPが分かる形に読み変える)データを用意しなくても良いことが利点。オートエンコーダの方が効率が良いかもしれない。