-
@ThothChildren
- 2017.9.13
- PV 193
Sparse AutoEncoder
ー 概要 ー
中間層の値ができるかぎり0になる(スパース)ようにAutoEncoderの損失関数にペナルティを加えたネットワーク
この章を学ぶ前に必要な知識
条件
- 入力と出力の次元数が等しい
効果
- 通常のAutoEncoderよりロバストな特徴を抽出する
ポイント
- 重みに対する正則化が多いが、ここでは中間層の値に対する正則化
解 説
Sparse AutoEncoderは通常のAutoEncoderの中間層の値が大きくなりすぎないようにできる限り0になるように損失関数を変更しています。
この変更によりSparse AutoEncoderはより少ない次元で元の入力を表現できるように学習をするようになり、よりロバストな特徴を抽出します。 | AutoEncoderとは |
この章を学んで新たに学べる
Comments
Reasons
知識: AutoEncoderとは
AutoEncoderとはニューラルネットで入力と出力を等しいものにして、ネットワークの前半と後半で対称的にした構造を持つネットワーク。特徴抽出器として使われる。