ネットワーク構造

過去に性能を発揮し有名となっているネットワークを列挙しておきます。これらをベースいくつもの発展させたネットワークが作成されています。

2017.9.3

269

Views
1

Watch
26

Knows

GAN(Generative Adversarial Network)は、二つ以上のネットワークを競わせ精度の高い画像生成を行うことができるネットワークモデル。これまでの生成モデルより大きく改善が見られ、様々な派生のネットワークが提案されている.

CNN(Convolutional Neural Network)は画像や時系列データを入力に処理をするのに向いているニューラルネットワーク.局所的な情報を処理していくConvolution層をネットワークに導入しているネットワークを指す.すべての層がConvolution層とPooling層のみでできている場合は、入力の画像サイズに問わず処理を行うことができる.(全結合層がある場合は入力サイズは固定となる)

FCN(Fully Convolutional Network)は全ての層をConvolution層とPooling層で構成したもので、全結合層(Fully Connected layer)を含まないネットワークです.Fully Connected Layerは前後の入力と出力の大きさでパラメータの数が変わるため、ネットワークの入力となる画像の大きさが固定されてしまいます.一方でFCNはConvolutionとPoolingで構成されるため、入力画像のサイズに制限ができません.

特定用途のネットワーク構造

特定用途のために考案されたネットワーク構造やネットワークの機構についてまとめているページです.

ネットワーク構造の新規投稿

Attention機構

Attention機構(注意機構)とは、主に機械翻訳や画像処理等を目的としたEncoder-Decoderモデルに導入される要素ごとの関係性、注意箇所を学習する機構.機械翻訳において翻訳対象の単語間の関係性や全体のコンテキストを考慮させるために考案されたものだが、画像処理などにおいても応用されている.

SegNetはFCNより解像度よくSemanticSegmentationを行うことができるネットワーク.UnPooling層をDecoderに用いることでより細かい領域分割ができることを可能にした.またUnpoolingを用いて省メモリになったことも特徴.

FCN (Semantic Segmentation)

FCN(Fully Convolutional Networks for Semantic Segmentation)は、FCNのネットワーク構造を用いてSemantic Segmentation(領域のクラス分類)を行っているネットワークです.ピクセルレベルでなんの物体なのかを推定します.全結合層を含まないためどのような大きさの画像に対しても適用できるのが特徴ですが、解像度が低くなりがちでまた境界あたりは分類の精度が低く曖昧になりがちです.

SAGAN(Self Attention Generative Adversarial Network)はACGANやSNGANでも扱う画像生成タスクにおいてSelf Attention機構を導入することで高精度な画像生成を実現したネットワーク.

ACGAN(Auxiliary Classifier Generative Adversarial Network)は、DCGANではランダムノイズ列から画像を作っていただけにすぎない学習に加えて、画像のクラスラベル情報をGeneratorに入力しDiscriminatorで補助的なクラス識別タスクを行うことで、高精度な画像を生成できたネットワーク.学習は128x128の画像を入力としてImageNetの画像を使用している.

pix2pixHDは複数の工夫を導入することでpix2pixでは256x256の画像生成であったのを2048x1024まで精度を改善したネットワーク.ResNetを使用したこと、ネットワーク構造を多段にすること、FeatureMatchingを採用したこと、マルチスケールの対応等の工夫を入れることで実現しています.

pix2pixはUNetとDCGANを組み合わせた汎用的な画像変換を学習することができるネットワーク.昼と夜の変換や航空写真と地図の変換等様々なタスクを行わせることができる.画像から画像の変換(Image to Image Translation)を行っているConditional GANの一種.

シャムネットワーク

シャムネットワークは(Siamese Network)二つの画像の似ている似ていないという指標となる距離を学習するCNNを利用したニューラルネットワーク.二つのCNNは重みが共有されていてそれらの出力を距離を計算するネットワークに入力する.

高解像度な顔画像の生成を達成したProgressive Growing of GANに関して紹介します.これまで256x256ほどのサイズだった画像生成を1024x1024の高解像度でかつ精度よく行えていることが特徴です.

制御パラメータを持つ教師なし学習を行うGAN. 入力のいくらかを制御用のパラメータとして、出力にも同様のパラメータを出すようなネットワークにすることで、入力と出力に強い関係をもたせている。

正式名はWasserstein GAN.GANの学習の不安定さを数学的に改善した。WGANを改良したWGAN-GPが近年用いられることが多い。

調整できるパラメータを持つGAN。多クラスの画像を生成する場合はクラスラベルを、MNISTを渡す場合は10個のベクトルをパラメータとして持たせる。

おすすめのDeepLearningのネットワークはどれですか？

AlexNetはAlex,Hintonらによって開発されたCNN.全部で8層からなりうち5つがConvolution層.2012年画像分類の大会LSVRCにて好成績を残して注目される.

LeNet(5)とは1990年代に作成された一番初めにConvolutional Neural Netowrkの基礎にあたるものを提案し使用したネットワーク.MNISTにおいて当時から高い精度を出していた.

ResNetは2015年にMicrosoftより発表された152層からなるニューラルネットワーク. 今まで20層ほどで作られていたCNNを特別なユニットを挟むことで深くすることを可能にした.

LSTMは時系列データのような連続したデータにおいて特に使用されるニューラルネットワーク。翻訳、ビデオ等に対して有効に働く。

U-netはConvolutional AutoEncoderの構造に似ておりEncoderの途中の層からDecoderへショートカットをもたせた構造になっている.領域分割などにおいて威力を発揮をしている.

Convolutional Neural Network

CNNとは,Convolution層を主要な層として繋げている画像処理に向いているニューラルネット.少し前まではPooling層も合わせることが多かったがPoolingで行っていたこともConvolutionで行わせることも増えてきた.BatchNormalization層を挿入することも多い.

Sparse AutoEncoder

中間層の値ができるかぎり0になる(スパース)ようにAutoEncoderの損失関数にペナルティを加えたネットワーク

Convolutional AutoEncoder

画像処理に向いているConvolution層を使ったAutoEncoder.デコーダではUnpooling層やDeconvolution層を使う.

ネットワーク構造人気知識・質問

Attention機構

Attention機構(注意機構)とは、主に機械翻訳や画像処理等を目的としたEncoder-Decoderモデルに導入される要素ごとの関係性、注意箇所を学習する機構.機械翻訳において翻訳対象の単語間の関係性や全体のコンテキストを考慮させるために考案されたものだが、画像処理などにおいても応用されている.

シャムネットワーク

シャムネットワークは(Siamese Network)二つの画像の似ている似ていないという指標となる距離を学習するCNNを利用したニューラルネットワーク.二つのCNNは重みが共有されていてそれらの出力を距離を計算するネットワークに入力する.

ResNetは2015年にMicrosoftより発表された152層からなるニューラルネットワーク. 今まで20層ほどで作られていたCNNを特別なユニットを挟むことで深くすることを可能にした.

pix2pixHDは複数の工夫を導入することでpix2pixでは256x256の画像生成であったのを2048x1024まで精度を改善したネットワーク.ResNetを使用したこと、ネットワーク構造を多段にすること、FeatureMatchingを採用したこと、マルチスケールの対応等の工夫を入れることで実現しています.

ACGAN(Auxiliary Classifier Generative Adversarial Network)は、DCGANではランダムノイズ列から画像を作っていただけにすぎない学習に加えて、画像のクラスラベル情報をGeneratorに入力しDiscriminatorで補助的なクラス識別タスクを行うことで、高精度な画像を生成できたネットワーク.学習は128x128の画像を入力としてImageNetの画像を使用している.

pix2pixはUNetとDCGANを組み合わせた汎用的な画像変換を学習することができるネットワーク.昼と夜の変換や航空写真と地図の変換等様々なタスクを行わせることができる.画像から画像の変換(Image to Image Translation)を行っているConditional GANの一種.

AutoEncoderとは

AutoEncoderとはニューラルネットで入力と出力を等しいものにして、ネットワークの前半と後半で対称的にした構造を持つネットワーク。特徴抽出器として使われる。

LeNet(5)とは1990年代に作成された一番初めにConvolutional Neural Netowrkの基礎にあたるものを提案し使用したネットワーク.MNISTにおいて当時から高い精度を出していた.

SAGAN(Self Attention Generative Adversarial Network)はACGANやSNGANでも扱う画像生成タスクにおいてSelf Attention機構を導入することで高精度な画像生成を実現したネットワーク.

近年注目されている画像等を生成するニューラルネットワークを用いた学習手法.二つのニューラルネットワークを使って片方の識別能力をあげる点が特徴.既にGANの改良系が数十種類提案されている.

高解像度な顔画像の生成を達成したProgressive Growing of GANに関して紹介します.これまで256x256ほどのサイズだった画像生成を1024x1024の高解像度でかつ精度よく行えていることが特徴です.

GANに様々な工夫を入れて学習の安定性や精度を向上させた技術.Convolution層系列のみを使用しているのが特徴.

調整できるパラメータを持つGAN。多クラスの画像を生成する場合はクラスラベルを、MNISTを渡す場合は10個のベクトルをパラメータとして持たせる。

Denoising AutoEncoder

Denoising AutoEncoderは通常のAutoEncoderでは入力と出力を同じにして学習させるのに対して、わざと入力にノイズを載せそこから元の入力を出力するように学習させる技術です。

FCN (Semantic Segmentation)

FCN(Fully Convolutional Networks for Semantic Segmentation)は、FCNのネットワーク構造を用いてSemantic Segmentation(領域のクラス分類)を行っているネットワークです.ピクセルレベルでなんの物体なのかを推定します.全結合層を含まないためどのような大きさの画像に対しても適用できるのが特徴ですが、解像度が低くなりがちでまた境界あたりは分類の精度が低く曖昧になりがちです.

比較的新しく提案された画像変換を行うGAN. あるテーマの画像から別のテーマの画像に変換します.(下記は概要です.詳しくは論文を参照してください)

制御パラメータを持つ教師なし学習を行うGAN. 入力のいくらかを制御用のパラメータとして、出力にも同様のパラメータを出すようなネットワークにすることで、入力と出力に強い関係をもたせている。

正式名はWasserstein GAN.GANの学習の不安定さを数学的に改善した。WGANを改良したWGAN-GPが近年用いられることが多い。

SegNetはFCNより解像度よくSemanticSegmentationを行うことができるネットワーク.UnPooling層をDecoderに用いることでより細かい領域分割ができることを可能にした.またUnpoolingを用いて省メモリになったことも特徴.

Sparse AutoEncoder

中間層の値ができるかぎり0になる(スパース)ようにAutoEncoderの損失関数にペナルティを加えたネットワーク

おすすめのDeepLearningのネットワークはどれですか？