線形(線型)代数の基礎2020年02月13日ベクトル、行列、ベクトル空間とその線型変換に関する数学の分野が線形(線型)代数ですが、統計学や最小二乗法で必要となる基本的なことをまとめておきます。集合に関して以下のような記号を使います。集合とはある定義されたものの集まりで、集合を構成するものを元といいます。A1.ベクトル、ベクトル空間、行列ベクトルは二次元や三次元空間の位置ベクトルなどでおなじみでしょう。ここでは、まずベクトル空間の定義をします。元をベクトルといいます。(スカラーとはベクトルではない普通の数のことです)つまり、ベクトルとは和とスカラー倍が定義され、和と積の(普通の)法則がみたされているものと考えられます。ベクトル空間のことを線形(線型)空間ともいいます。ベクトルは太字(ボールド体)で書くことにします。場合で、スカラーも実数です。n次元数ベクトル空間と考え、以下のように各ベクトルをn個の実数を縦に並べた列ベクトルとして書きます。縦ベクトルと同じように横ベクトルも定義されます。横ベクトルは、「’」をつけてとなります。部分(ベクトル)空間といいます。含まれる元がまたベクトルとして和とスカラー倍の法則を満たすということです。軸でこれも部分空間です。)線形(一次)結合:いくつかのベクトルから和とスカラー倍で生じるベクトルを一次(線形)結合といいます。張られる空間といいます。一次独立といい、そうでないとき一次従属といいます(図A2)。ある空間の基底となるベクトルの数は一定です。おいてはベクトルの内積が定義されます。転置といって縦と横を逆にすることを示す記号です(行列の項参照)。なることです(図A4)。(6)図A4.直交部分空間の例:行列:行列は数あるいは変数(要素)を長方形に並べたものです。ベクトルと同じようにここで取り扱う各行列要素はほとんどの場合実数です。行列は大文字のボールド体で書くことにします。同じ型の行列には和とスカラー倍が定義され、のとき、ベクトルと同じ法則(1)を満たします。行列全体もベクトル空間を構成していることになります。