ソフトマックス活性化関数

多クラスの分類を行うニューラルネットワークの出力層の活性化関数として使われる. 多クラス分類で使われる理由 or よく使われる理由 ・出力が 0より大きく1以下 ・全ての出力を足すと1.確率と同じと見なせる. ・微分した形が元の式を使って書けて便利 ・ただ平均をしたものより交差エントロピーを最小化する値を出力 "{猫, 犬, 豚, 牛}"のような分類をするときに学習させる答えは, 犬が写っている画像なら[0, 1, 0, 0]として、犬100%にすればよくなります。

$$f(x_i)={\frac {e^{x_i}}{\sum _{k=1}^{K}e^{x_k}}}$$