内のパラメータを調整する方法。要するに下図のような感じ。もとめるのが最小二乗法だ。いう人がときどきいる。これも,最小二乗法の一つの形だけど,これが最小二乗法のすべてではない。2次関数でもよいし,3次関数でもよい。指数関数でもよいし,矩形波のような非線形関数でもよい。2次元平面状でなくてもよい。3次元空間上でもよいし,4次元空間上でもよい。差の二乗和とは差は,各点と,関数値の差。差の二乗は,このような差を二乗したもの。差の二乗和は,すべての点で計算した差の二乗を足し合わせてもとめた1つの値。個の点の座標が次の通りであったとする。次のように表現できる。x_{i,M-1}\right)\right]^{2}$$簡単な例よくある,2次元平面状で直線に近似する場合について,差の二乗和がどう表現できるのか見てみよう。添え字は一部省略して次のように書こう。いずれでも微分可能なので,Eが最小(極小)となるときは次の2つの式が成り立つ。b}=0$$簡単な例を解いてみる先ほどの式を解いてみる。a\sum_{i=1}^{N}x_{i}+Nb=\sum_{i=1}^{N}y_{i}$$上の2式をまとめると次のような行列演算(連立方程式)で表現できる。演算なので,プログラミングの手間もそんなにかけずに各要素が数値として計算できる。今回取り上げた簡単な例では,2次元平面上で直線を近似する場合について説明したが,最小二乗法は2次元以外でも,直線以外でも適用できる。近似する場合にも同様の手順でできる。