下記のデータが得られた時に、xからyを予測する回帰式を求めたいとします。【6つもあった!】Excelで単回帰分析の最小二乗法を解く方法をすべて実演で回帰式をExcelで求める6通りの方法を紹介しましたが、この方法では直線の回帰式しか求められません。y=ax+bのようなxの1次式の回帰式しか求められません。そこで今回は、2次式や3次式などの高次の回帰式を求める方法を紹介します。行列演算を使うのですが、2通りの方法があります。係数を微分する方法と、変数を微分する方法です。今回の例題は2次式で十分に近似できますが、3次式や4次式などの複雑な回帰式であっても、この方法は使えます。このように高次式による回帰式は多項式回帰とも呼ばれます。ax2+bx+cと置きます。{y-f(x)}2が最小となるような係数a、b、cを求めることになります。Σ{y-f(x)}2が最小となるような係数a、b、cを求めます。ax2-bx-c)2となります。このEは各係数で偏微分した式がすべてゼロとなる時に最小値を取ります。0をすべて満たすようなa、b、cを求める問題に帰着します。難しそうに思えますが、例えばaで偏微分する時にはその他の変数はすべて定数と見なせるので簡単です。0この時、高校で習った合成関数の微分の技を使っています。{g(f(x))}’=g’(f(x))f’(x)詳しくは、下記サイトを参照して下さい。なかけんの数学ノートbやcでの偏微分も同じようにできます。0これらの3式は、次のように規則的な形に書き直せます。0⇔aΣx2+bΣx1+cΣx0=Σx0yそして行列を使うと、更にきれいな形になります。行列Aとbは観測した10組のデータがあるので、次にように計算できて定数行列になります。クリックすると拡大します後は、x=A-1bを解くだけです。これもExcelで次のように計算できます。クリックすると拡大しますこれで誤差Eを最小化する係数a、b、cが求まりました。1.8x2-5.7x+6.7です。ax2+bx+cと置きます。すると誤差はf(x)-yと表せます。観察データは10組ありますので、10個の誤差が計算できます。これをまとめて次のように行列で表すことができます。b||2を最小にするようなa、b、cを求める問題に帰着します。これは次のように式変形できます。bTbこれを最小化するxは、xで微分してゼロと置いた式を解けば求まります。行列の微分で一見難しそうですが、すべての項はスカラーですので簡単です。第一項は対称行列であるATAの各成分にx行列の各成分の二乗を掛けているので、x2の微分が2xになるように2ATAxになります。第二項は、ATbの各成分に2xTの各成分を掛けているので、2xの微分が2になるように2ATbになります。(ATA)-1ATbです。後は数字を入れて計算するだけです。Excelで次のように計算できます。1.8x2-5.7x+6.7になりました。これは、一番目の方法で計算した結果と同じです。補足ここで紹介した2つの方法は勾配降下法などのような近似解を求める数値的解法ではなく、ズバリの解を求める解析的解法です。4次や5次などの高次の回帰式でも同じやり方で解析的に求められるので、大変便利な方法だと思います。基礎を学べるベーシック講座「その2」です。ついて豊富な図を用いて説明していきます。相関分析や回帰分析という一生モノのスキルをぜひこの機会に一緒に身につけましょう!【データ分析入門(最初の3日)】文系の方や統計・データサイエンスにつまずいた方も実務で使える(考え方とExcel活用)データ分析の流れ(課題を捉え、分析し、結果を伝える)を通して理解します。行い最終報告までのスキルを身につけます。社内データ分析者向けの入門講座です。顧客ターゲティングなど実践的なビジネス課題でデータ分析の一連の流れを身に着けよう。プログラミング初心者にもおすすめ。1時間で理解できる!小学校から大学まで一気に駆け上るスピード感のあるコースです。永遠の旅人よろしければシェアお願いしますTwitterFacebookLinkedInB!HatenaLINELINE【学習率を調整する】AdaGradとRMSPropをExcelに実装して比較してみた。Next確率と尤度の違いは何?具体例を挙げてわかりやすく解説します。Prevリンクリンク関連記事ニューラルネットワークをExcelに実装して画像処理させてみた。釣鐘状の正規分布のグラフは有名ですが、これは一変量の正規分布です。...RMSProp法のアルゴリズムをExcelに実装して具体例を解いてみた。【区間推定の使い方】タイヤの摩耗を具体例にわかりやすく解説します。TOP28【作業分析6】MMCモデル|最適なトラックドック数をSimpyでシミュレーション【作業分析5】トラックの待機台数の多さを人の表情でアニメーション(2)カンボジアの物流でお困りのことがあればお気軽にご相談下さい。学生時代にアジアの雑踏にハマる。誰もが羨むメーカーを退職し「旅するように働く」ことを目指し物流業界に転職。理工学と経営学のダブル修士。2023年1月からカンボジアのオートレスビーチ在住。