確率変数で観測値は誤差を含みますが、その期待値がパラメータの線形式で表せるということです。共分散をとることを示します。期待値や分散の定義については第2、4回で紹介していますが、複数個の変数がある場合、ベクトル及び行列で表現すると取り扱いが便利です。具体的に書くと、以下のようになります。期待値は確率変数間の分散を成分に持つ共分散行列(誤差行列)が次のように定義されます。線型モデルでは、です。関して次の式が成り立ちます。2番目の式は誤差伝播則と呼ばれています。確率変数を変換したとき、その誤差は元の変数の誤差で表せる(誤差が伝わってゆく)という意味です。2観測値の定数倍ならです。