知識ゼロから色々しらべてみた話しこの広告は、90日以上更新していないブログに表示しています。オートエンコーダでmnistを学習(Qiita記事を見ながら..)◆目的:・mnistデータをオートエンコーダで学習してみる。◆キーワード:・Tensorflow、オートエンコーダ、エンコード/デコード、mnist・まず読込み。tensorflowのチュートリアル。mnistデータをダウンロード。one_hot=True)・ニューラルネットワークの構造、ハイパーパラメータを決める。tf.Variable(initial)・入力層を定義、データが入るところなので”placeholder”で。フィッシャーのあやめデータセット使用する。150個のデータのうちTRAIN_DATA_SIZE個を訓練データとして使用。残りは教師データとして使用。circle(10)まで読むと即計算、314.0をoutする。・python3では「関数」(構文ではなく。・sys.pathはファイルを検索するパスを示す文字列のリスト。sys.pathにインポート対象のディレクトリを含めることで、適当なディレクトリのファイルでもインポート可となる。sys,ossys.path.append(os.pardir)#このあとに例えば。◆メモ1・mnistの分類アルゴリズムについて・・・数学的に言えば784次元のベクトルであり、784次元空間の1つの点(x1,x2,,,x784)に対応することになる。784次元は絵では示せないが、その空間を10個の領域に分割して、分類を行うという意味では、二次元平面の分類と類似。with句・・・セッションを記述。fetch・・・グラフから演算結果を取り出す。tf.constant・・・定数。定数の行列要素を生成。placeholder・・・データが格納される予定地。tf.assign・・・変数に値を代入。◆TensorFlow・グラフ(エッジ+ノード)という処理概念を使っている。・グラフを実行するためには、sessionを作りrunメソッドをコール。・約1000のAPIが公開。ラベル)の形式でmnistデータを返す。one_hot_label=Fals)のように引数設定。fetch_mldata()・・・scikit-learnの関数、webからmnistデータをもってくる。bytes・中途半端なデータが残っているせいか。scikit_learn_data/mldataのフォルダごと削除して再度やり直し。・パーセプトロン...重み設定の作業が人手。活性化関数がステップ関数。・ニューラルネットワーク...ニューロンのつながり方はパーセプトロンと何ら変わりなし。多層で、シグモイド関数などの滑らかな活性化関数を使用するネットワーク。・活性化関数...入力信号の総和がどのように活性化(発火)するかを決める役割りを果すもの。function)...「ニューラルネットワークの学習では、最適なパラメータ(重みとバイアス)を探索する際に、損失関数の値ができるだけ小さくなるようなパラメータを探します。」2乗和誤差、交差エントロピー誤差などを用いる。「できるだけ小さな損失関数の場所を探すために、パラメータの微分(正確には勾配)を計算し、その微分の値を手がかりにパラメータの値を徐々に更新していきます。・2乗和誤差...「ニューラルネットワークの出力と正解となる教師データの各要素の差の2乗を計算し、その総和を求めます。・偏微分...「...ある場所の傾きを求めます。...変数をひとつに絞り、他の変数はある値い固定します。・勾配法...「勾配をうまく利用して関数の最小値(または、できるだけ小さな値)を探そう、というのが勾配法です。rate)...「1回の学習で、どれだけ学習すべきか、どれだけパラメータを更新するか、ということを決めるのが学習率です。・畳込みフィルタ...「画像に描かれている物体の特徴をより的確に捉えることが可能になります」@中井マイナビ本、p27・点でなく領域ベースで特徴抽出できるので移動変形に強くなる。エッヂ抽出など領域ベースでないと分からないような特徴も抽出可となる。@Qiita・プーリング層...「画像の解像度を落とす処理を行います。...詳細をあえて消し去ることで、描かれている物体の本質的な特徴のみを抽出しようという発想に基づきます。形状の違う配列どうしを計算。one_hot=True)・4つのファイルがダウンロードされる。imshow()で勝手に正規化されないように。◆Tips・arrayの中身を変えることでRGBA画像(要素4つ)なども表示可能。・”RGBA”の”A”は、透明度を表すアルファのA。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。