Growing Neural Gas

Growing Neural Gas(成長型ニューラルガス)とは、教師なしニューラルネットワークの一つで、Neural Gasが強く初期値に依存してしまうのを避け必要とあればネットワークを拡張するNeural Gasの一種. 多くのケースで、良い性能を発揮することで知られ、クラスタ分析においてはk-meansよりも優れていると言われる.

Growing Neural GasはNeural Gasと似ている部分が多い. エッジの追加とユニット(ニューロン)の追加が行われている. エラー積算値を各ユニットが保持しているのも特徴. Growing Neural Gasのアルゴリズム 1. 二つのユニット(ニューロン)をランダムに初期化. 2. 入力データを一つ取り出す. 3. 最も入力データに近いものをs1として二番目に近いものをs2とする 4. s1から伸びているエッジの年齢を全て1足す. 5. s1のエラー積算値にs1と入力データの誤差距離を足し合わせる. 6. 通常のNeural Gasと同様に「それぞれのユニットと入力データの誤差」を元に近いユニットの更新を行う. 7. s1とs2がエッジで繋がっていれば、そのエッジの年齢を0とする.もしエッジがなければ新しくエッジを繋げる. 8. エッジの年齢が閾値a_maxを超えているものを除去.もしこれによって一つもエッジを持たないユニットができたらそれらも除去する. 9. 特定回数入力データを使って学習をしたら, 最もエラー積算値の大きいユニットとそのユニットに最も近いユニットの間に新しいユニットを挿入する. 重みは上記二つの重みを足して半分にしたもので元あったエッジを除去し新しく加える. 10. 全部のエラー積算値を一定の割合をかけて小さくする. 11. 一定の条件を満たしていなかったら2.からやり直し.

Fritzkeらによる元論文はリンクを参照