導入するとモデルは、となります。一次式になっていますので、線形モデルです((6)の形)。確率変数の測定値です。関数ですが、二乗の和の平方根ですから明らかに線形ではありません((9)の形)。この場合は、平方根の式を線形化してから解くことになります。3つのタイプにわけることができます。真の値を高い確率で含む区間あるいは集合を指定すること。関する仮説を立て、データがそれを支持するかを検証すること。他にも確率変数の予測や統計的決定理論さらにはモデルの選択の問題などがありますが、この連載の大きな主題である最小二乗法によるパラメータの推定は点推定に入ります。推定値を求めるだけでなくその信頼範囲を明示し検定を行う必要もありますので、上に述べた推測の主要な目的についてそれぞれお話しする予定です。推定量を求めることに関連した重要な概念をいくつか以下に示します。尤度(ゆうど、もっともらしさ、英語ではlikelihood)とは、次のように定義される関数です。関数と見なすものです。真の値に近い可能性が大きいと考えても良いということです。そこで尤度が最大になるようなパラメータの値を求めて推定値とする方法を最尤推定法といいます。後にも述べますが、正規分布に対応した最尤推定法は最小二乗法と同値となります。個の測定値の同時確率分布は各分布の積なので尤度は、となりますが、対数をとれば和となって扱いやすくなるからです。期待値が母集団の値と等しくなる時、それを不偏推定量といいます(前回も参照のこと)。不偏でなければ、0でない差(バイアス、偏り)が存在します。推定量が平均して真値にどのくらい近いかの目安となります。書き換えるとつまり、分散とバイアス(の二乗)の和になります。