DeepAutoEncoder

Deep AutoEncoderは3層だったAutoEncoderをより層を深くしたニューラルネットワーク. 一般的に深くするほどニューラルネットの表現する力は高まるとされている.

Deep AutoEncoderのように中間層の多いニューラルネットワークは学習させるのが難しくなります。(近年は深くとも幾らかの回避手段があります.) 一つの方法としてStacked AutoEncoderと呼ばれる形で深いAutoEncoderを作成することができます。 やり方はとてもシンプルで一気に深いニューラルネットワークを作るのではなく、 仮想的な3層ずつを学習していき、学習した重みを用いて全体のネットワークを構成させる。