人工知能に視覚を与えることで色々なことが実現可能となった。(大枠)コンピュータに画像に写っている物体を検出させる。本研究では、いくつかの物体の中から鳥のみを検出させる実験と鳥を含む全ての物体を検出する実験を行なった。検出するためのネットワークモデルを4つ用意してそれぞれの性能を比較した。脳には、ニューロンと呼ばれる数多くの神経細胞があり、結合にはシナプスが存在する。シナプスは、電気信号を流すことにより情報を伝達する。その際にシナプスの結合強度により情報の伝わりやすさが変化する。強度を調整してやる事で識別や認識を行う事ができる。[[活性化関数:https://www-tlab.math.ryukoku.ac.jp/tlab/?b/2019/nakatani/senior%27s%20theis#mb9218bb]]&mathjax{f};に適用することでデータ&mathjax{z};を生成する。はじめにデータが入力される層を入力層、最後にデータが出力される層を出力層、入力層と出力層の間の層を中間層という。計算式は、1層とほぼ変わらないが、何層も重ねるので出力が1つとは限らない。活性化関数を適用することで出力を単純な数値にする事ができる。aをゲインといい一般的には1で定義され標準関数またはロジスティック関数と呼ぶ。畳み込み層、プーリング層の組み合わせで構成されている順伝播型ニューラルネットワーク。分類や回帰問題の時は、出力層に全結合層を使う。問題点:データの形状が、無視される。(3次元のデータを平ら(1次元)にするため)そのため空間的情報が無視されるため形状に関する情報を活かす事が出来ない。畳み込み層は、全結合層のようにノードからノードの結合を全て結合させるのではなく一部に制限する事でパラーメータの数を減らせる事ができる。パラメータの数を減らせると学習させやすくなる。画像には、空間に潜む汲み取るべき本質的なパターン(画素の距離が近ければ似たような値になったり距離の遠い画素はあまり関わりがない)が潜んでいるが全結合層は3次元のデータを1次元にするので全ての入力データを同じ次元として扱ってしまううので形状に関する情報を活かせないが畳み込み層では3次元は3次元として扱う事ができるので形状を正しく理解できる可能性がある。畳み込みニューラルネットワークでは、畳み込みを行うたびに画像のサイズが段々と小さくなる。そのままだと何度も畳み込みが出来なくなるので->パディングという手法を使う。パディング:入力データにふちをつける事で畳み込みを行なっても出力データは、入力データと同じサイズを維持できる。ふちの値をゼロに固定したものをゼロパディングという。ストライド:入力データにフィルタを適用位置の感覚をストライドという。物体にいくつかの物体領域候補を提案し、物体クラス認識の手法を用いてその物体がどの領域にあるものか判断する。メリット:一枚の画像の全ての範囲を学習の際に利用する事で周辺の状況も同時に学習する事ができる。背景を誤検出を抑える事ができる。デメリット:一つの領域に一つのクラスしか認識しないので小さい小さい物体や大量の物体の検出が困難になる。デフォルトボックスを用意してどれが一番正解に近いか求める物体検出の方法。畳み込みでは、縮尺の異なる特徴マップをそれぞれの様々な箇所でデフォルトボックスをの集合を評価する。#デフォルトボックス:デフォルトボックス自身が物体からどれくらい離れているかどのくらいの大きさが異なるのか位置の予測する。そこには何があるのかクラスの予測する。本来は、バウンディングボックスが教師信号として用いられるが本研究では問題設定を単純化しその位置に物体があるかないかで1と0で表した画像を出力して教師信号として扱う。画像を用意しその黒い画像の、元の画像のバウンディングボックスで囲まれた部分を、白く塗りつぶします。する事で物体が写っている場所は、白色写っていない場所は黒色になります。本研究では、学習用の画像が3000枚と少ないため高い性能が望めるものではなかったためVGG16というネットワークのモデルを一部使った。#VGG16:畳み込みとプーリング層からなる基本的なCNNである。重みのある層を(畳み込み層や全結合層)全部で16層まで深くしている。netという大規模な画像セットを使って訓練されたモデル。ネットワークのモデルと同じ14×14の教師信号を作成した。できないので縮小する際に、最近傍補間法という補間法を利用した。最近傍補間法を使う事で画素値が0or255に縮小できた。#最近傍補間法:画像を拡大した際に最近傍にある画素をそのまま使う線形補間法である。特徴を、検出のためのネットワークモデルに入力して実験を進めた。ライブラリーにはtensorflowを使った。これらの最後にシグモイド関数を適用した。評価方法として生体認証をシステムで用いられるEERを利用した。EER:FRRとFARが等しくなる確率。FAR:本人拒否率と呼ばれています。FRR:他人受入率と呼ばれています。鳥の識別に見られたのがテストデータより学習データの方がEERの値が高くなってしまった。これは過適合と言う状態になったと考えられる。過適合の理由として考えられるのが学習データの少なさが原因であると考えられる。有効な学習データが少ないと複数種類の物体のモデルを得る事ができない。結果識別できるものが多くなったと考えられる。4のネットワークがもっとも複雑に構成されていて4種類中3種類で高い性能を示した。高い性能が発揮されている。これの原因として予想される事は、学習の回数が少なかったことが原因である。ように複雑なネットワークモデルは、学習の回数を重ねればより精度の高い結果を得られるが、そこまでの精度を得られるようになるまでに、その分多くの学習が必要になる。それに対して単純なネットワークは、結果への到達が早いためある程度の学習回数でそこそこの結果を得られる。結果的に層を深くしてフィルタを大きくしたネットワークを用いた時がもっとも正しく目的の物体を検出することできた。VGG16を使用する事で画像の枚数が少なくても8割程度検出できた。反省点:ネットワークの特性を考え、学習の回数を多く設けるなどの適切な処置が必要である。人工知能に視覚を与えることで色々なことが実現可能となった。(大枠)コンピュータに画像に写っている物体を検出させる。本研究では、いくつかの物体の中から鳥のみを検出させる実験と鳥を含む全ての物体を検出する実験を行なった。検出するためのネットワークモデルを4つ用意してそれぞれの性能を比較した。脳には、ニューロンと呼ばれる数多くの神経細胞があり、結合にはシナプスが存在する。シナプスは、電気信号を流すことにより情報を伝達する。その際にシナプスの結合強度により情報の伝わりやすさが変化する。強度を調整してやる事で識別や認識を行う事ができる。[[活性化関数:https://www-tlab.math.ryukoku.ac.jp/tlab/?b/2019/nakatani/senior%27s%20theis#mb9218bb]]&mathjax{f};に適用することでデータ&mathjax{z};を生成する。はじめにデータが入力される層を入力層、最後にデータが出力される層を出力層、入力層と出力層の間の層を中間層という。計算式は、1層とほぼ変わらないが、何層も重ねるので出力が1つとは限らない。活性化関数を適用することで出力を単純な数値にする事ができる。aをゲインといい一般的には1で定義され標準関数またはロジスティック関数と呼ぶ。畳み込み層、プーリング層の組み合わせで構成されている順伝播型ニューラルネットワーク。分類や回帰問題の時は、出力層に全結合層を使う。問題点:データの形状が、無視される。(3次元のデータを平ら(1次元)にするため)そのため空間的情報が無視されるため形状に関する情報を活かす事が出来ない。畳み込み層は、全結合層のようにノードからノードの結合を全て結合させるのではなく一部に制限する事でパラーメータの数を減らせる事ができる。パラメータの数を減らせると学習させやすくなる。画像には、空間に潜む汲み取るべき本質的なパターン(画素の距離が近ければ似たような値になったり距離の遠い画素はあまり関わりがない)が潜んでいるが全結合層は3次元のデータを1次元にするので全ての入力データを同じ次元として扱ってしまううので形状に関する情報を活かせないが畳み込み層では3次元は3次元として扱う事ができるので形状を正しく理解できる可能性がある。畳み込みニューラルネットワークでは、畳み込みを行うたびに画像のサイズが段々と小さくなる。そのままだと何度も畳み込みが出来なくなるので->パディングという手法を使う。パディング:入力データにふちをつける事で畳み込みを行なっても出力データは、入力データと同じサイズを維持できる。ふちの値をゼロに固定したものをゼロパディングという。ストライド:入力データにフィルタを適用位置の感覚をストライドという。物体にいくつかの物体領域候補を提案し、物体クラス認識の手法を用いてその物体がどの領域にあるものか判断する。メリット:一枚の画像の全ての範囲を学習の際に利用する事で周辺の状況も同時に学習する事ができる。背景を誤検出を抑える事ができる。デメリット:一つの領域に一つのクラスしか認識しないので小さい小さい物体や大量の物体の検出が困難になる。デフォルトボックスを用意してどれが一番正解に近いか求める物体検出の方法。畳み込みでは、縮尺の異なる特徴マップをそれぞれの様々な箇所でデフォルトボックスをの集合を評価する。#デフォルトボックス:デフォルトボックス自身が物体からどれくらい離れているかどのくらいの大きさが異なるのか位置の予測する。そこには何があるのかクラスの予測する。本来は、バウンディングボックスが教師信号として用いられるが本研究では問題設定を単純化しその位置に物体があるかないかで1と0で表した画像を出力して教師信号として扱う。画像を用意しその黒い画像の、元の画像のバウンディングボックスで囲まれた部分を、白く塗りつぶします。する事で物体が写っている場所は、白色写っていない場所は黒色になります。本研究では、学習用の画像が3000枚と少ないため高い性能が望めるものではなかったためVGG16というネットワークのモデルを一部使った。#VGG16:畳み込みとプーリング層からなる基本的なCNNである。重みのある層を(畳み込み層や全結合層)全部で16層まで深くしている。netという大規模な画像セットを使って訓練されたモデル。ネットワークのモデルと同じ14×14の教師信号を作成した。できないので縮小する際に、最近傍補間法という補間法を利用した。最近傍補間法を使う事で画素値が0or255に縮小できた。#最近傍補間法:画像を拡大した際に最近傍にある画素をそのまま使う線形補間法である。特徴を、検出のためのネットワークモデルに入力して実験を進めた。ライブラリーにはtensorflowを使った。これらの最後にシグモイド関数を適用した。評価方法として生体認証をシステムで用いられるEERを利用した。EER:FRRとFARが等しくなる確率。FAR:本人拒否率と呼ばれています。FRR:他人受入率と呼ばれています。鳥の識別に見られたのがテストデータより学習データの方がEERの値が高くなってしまった。これは過適合と言う状態になったと考えられる。過適合の理由として考えられるのが学習データの少なさが原因であると考えられる。有効な学習データが少ないと複数種類の物体のモデルを得る事ができない。結果識別できるものが多くなったと考えられる。4のネットワークがもっとも複雑に構成されていて4種類中3種類で高い性能を示した。高い性能が発揮されている。これの原因として予想される事は、学習の回数が少なかったことが原因である。ように複雑なネットワークモデルは、学習の回数を重ねればより精度の高い結果を得られるが、そこまでの精度を得られるようになるまでに、その分多くの学習が必要になる。それに対して単純なネットワークは、結果への到達が早いためある程度の学習回数でそこそこの結果を得られる。結果的に層を深くしてフィルタを大きくしたネットワークを用いた時がもっとも正しく目的の物体を検出することできた。VGG16を使用する事で画像の枚数が少なくても8割程度検出できた。反省点:ネットワークの特性を考え、学習の回数を多く設けるなどの適切な処置が必要である。