論文の解説記事を書いています。2014GoogLeNetVGG終わりにはじめに本記事は連載物の第二弾です。前回の記事を読んでいない方は以下からご参照ください。画像認識で利用されるニューラルネットワークの一種です。上回り、優勝しました。ついて見ていきましょう。networks』となっています。特性や課題点を明らかにし、改善することによって精度の向上を達成しています。アーキテクチャ図です。5層目のレイヤーを単一GPU処理に変更するこれらの変更がなぜ精度向上に寄与したかを見ていきます。中間層を可視化していくと、最初の層から得られる特徴マップがうまく特徴を抽出できておらず無駄になっていることがわかりました。上図の通り、(b)の特徴マップは濃淡がほとんどないものがいくつもあり、特徴をうまく抽出できていないのに対し、(c)の特徴マップはほとんどが何らかの特徴を抽出できています。層が極端に大きなカーネルサイズを利用していることが原因と考えられています。大きなカーネルサイズでは極端に高周波な情報と低周波な情報しか取得できず、中間的な特徴が取得できないためです。落とすことでこの問題を解決しており、図(c)のように様々な特徴を抽出することに成功しています。層を可視化してわかったもう一つの事実は、2層目の特徴マップがエイリアシングされており、以降の層に充分な情報が伝わっていないことでした。層で大きなストライドを利用していることが原因でした。落とすことでこの問題を解決しており、後段の層までうまく特徴を伝えることに成功しています。特徴を可視化して精度の劣化原因を調査、解決することで精度の向上に貢献したネットワークです。よってフィルターサイズやストライドが与える影響についての理解が進んだと思われます。呼ばれる手法が優勝しました。ついても、シンプルかつ高精度であることから現在も学習済みモデルとしてよく利用されているため、こちらについても確認していきます。convolutions』となっています。アーキテクチャ論文のタイトルとアーキテクチャ図から見て分かる通り、過去のアーキテクチャと比較して層がずいぶん増えていますね。層をより多層にすること、層のチャネル数を増加させることによって精度が向上することが経験的に知られ始めたという背景があります。おいて特徴的なのは、複数の畳み込み層とプーリング層からなる『Inception』モジュールを繋いでいくことによって大きなネットワークを作り上げている点です。Pooling』層が利用されている点にも注目です。これらの機構について詳しく見ていきましょう。モジュールはネットワークを分岐させ、サイズの異なる畳み込みを行った後に出力を結合する処理を行います。出力を結合していることがわかります。要するパラメータの数を削減することに成功しています。モジュールと通常の畳み込み層の持つパラメータ数は以下になります。畳み込み層を配置してチャネル方向の次元も削減しています。モジュールはいくつか発展系が提案されており、精度の向上に寄与しています。チャネル数のみが保持された特徴マップを作ることが可能です。つの全結合層へと入力を与えることで最終的な出力を得ています。クラス)に調整することが一般的でした。全結合層は非常にパラメータ数が多く過学習を引き起こしやすかったため、ドロップアウト等の工夫で過学習を抑制する必要がありました。層を利用することで全結合層によるパラメータ数の増加を防ぎ、過学習を抑制することに成功しています。この(GAPの後に全結合層を1層だけ適用し,最終出力を得る)構成は、現在ではクラス分類を行うCNNのベストプラクティスとして知られています。RECOGNITION』となっています。深いネットワークになっていることがわかります。層を連ねたシンプルなアーキテクチャであることから、様々なタスクにおいて画像特徴の抽出器として利用される、非常に有名なネットワークです。深さが精度にどのような影響を与えるかを調査することを目的としています。倍にするこの条件下のもと、畳み込み層を増やしていくことで安定的に精度が向上することが示されています。層程度までの調査であるためこのような結果ですが、さらに深いネットワークを構築する場合は勾配消失問題が発生するため、一概には精度が向上しないことに注意が必要です。度通すことと実質的には同等の効果でありながら計算コストの削減になっています。畳み込み層が利用されることとなりました。最後に初期化の方法についても触れておきます。層など)で学習を進めた後に層を追加していく手法がとられていました。初期化と呼ばれる手法を採用することで事前学習なしでも学習が成功するようになったと報告されています。手法について振り返りました。以降は次の記事にて記載します。理解する3はじめに本記事は連載物の第三弾です。前回の記事を読んでいない方は以下からご参照ください。C...anieca.work2020.01.13引き続きよろしくお願い致します。検出と認識を同時に行う「CCN」を動かしてみたこんにちは。Networks」というモデルを動かしてみました。ソースを公開しています。