- @ThothChildren
- 2017.9.13
- PV 111
LSTMとは
ー 概要 ー
LSTMは時系列データのような連続したデータにおいて特に使用されるニューラルネットワーク。
翻訳、ビデオ等に対して有効に働く。
この章を学ぶ前に必要な知識
効果
- 時系列データの学習ができる
ポイント
- RNNを改善したニューラルネットワーク
- 長期的なデータのつながりを保持できる
解 説
LSTMはRNNを改良した時系列データ等に対して特化したニューラルネットワーク.今までのRNNは出力を再度入力として入れるのみで、勾配消失が起きやすかった。
LSTMはその問題を解決するべく、入力と出力にゲートを用意してデータが消失しないように必要なデータを残すようにした。 | LSTMとは |
上記のように勾配の消失をなくしたものはいいものの、少しずつ変化していく入力を追えなくなってしまうことがあった。
それに対して忘却ゲートを用意することで、適度に新しいデータの状態に適合していくことができるようになる。 | 忘却ゲートについて |
この章を学んで新たに学べる
Comments