えんじにあのじゆうちょうスマートフォン用の表示で見るえんじにあのじゆうちょう勉強したことを中心にアウトプットしていきます。算数はじめに統計、機械学習、ニューラルネットワーク(深層学習)と勉強していくと、結局何がどれに分類されるのかよく混乱してしまいます。私の勉強した結果そう思ったというまとめにはなりますが、本記事でまとめてみようと思います。統計学的に線形回帰を考える線形回帰の中でも一番単純な単回帰について考えます。単回帰分析は以下のような数式で表現されます。y)の組は1つではなく、複数ないと計算できません。誤差項ですが、変形すると以下のように表せます。それぞれの点に対して存在しますので、この誤差の合計を最小化すれば最も当てはまりの良い回帰直線を計算できます。誤差は単純に足し合わせると+/-で打ち消し合ったりして、あまりいい値にならないこともあるので、毎度のお決まりのように二乗して足し合わせます。ついての2次方程式です。対する偏微分を行い、それぞれが最小、つまり0となる点を求めれば良いので、を解く、つまり連立1次方程式を解くことになります。これで単回帰の式が求めることができます。重回帰になっても変数が増えてとても面倒ですが、考え方は同じです。この式は単回帰だけでなく、重回帰分析でも適用可能です。コンピュータに線形回帰を解いてもらうコンピュータが線形回帰を解く場合は、上記の統計学的アプローチを解析的に解けるようプログラムを実装します。連立一次方程式の形ではコンピュータが解くのは大変なので、最後に上げた行列式の形式で実現したりします。実際に実装することはあまりなく、大体はscikit-learn*1などで実装済みのライブラリを使うことになるかと思います。計算するための式をコンピュータに与えているという点です。ニューラルネットワークで解くニューラルネットワークは例えば以下のようなものです。perceptronこの最も単純な形はパーセプトロンと呼ばれていて、人間の脳細胞を模したもので、入力値に重みをかけて足し合わせた結果を一定の規則に基づいて出力を出します。活性化関数と呼ばれるもので、計算結果を変形して出力しているものです。ある手書き文字認識の要な場合では活性化関数では元の数値を確率に変換するものが使われています。回帰分析の式と同じとなります。決め方ですが、まずはランダムに決め、そこから少しずつ調整していきます。ここがいままでのアプローチとの大きな違いになると思います。