特徴量が高次元の場合に、相関の高い特徴量が複数含まれたりする。相関の高い特徴量が複数存在すると、過学習などを起こしてしまう可能性がある。行い、相関の高い特徴量を減らす作業が一般的に行われている。前処理が施されたデータに対して、学習と評価を繰り返すことで、最適な予測モデルを求める。set)に分ける必要がある。トレーニングデータを使って予測モデルを構築(予測モデルのパラメーターを計算)し、テストデータで予測モデルの性能を評価する。機械学習の学習アルゴリズムには、ロジスティック回帰、決定木やサポートベクターマシンなど、多様に存在する。これらのアルゴリズムは、それぞれの得意とする部分がある。データの特徴(サンプル数、特徴量など)、データに含まれるノイズの大きさなどによって、得意とするアルゴリズムが異なってくる。そのため、予測モデルを作る上で、トレーニングデータを使って複数のアルゴリズムで予測モデルを作成し、続けてテストデータを使って各予測モデルの性能を評価する。最高性能を出した学習アルゴリズムで作成された予測モデルを採択して実用化する。set)とテストデータ(検証データ)に分ける必要がある。set)と呼ぶ場合が多い。学習と評価の繰り返しにより、最適な予測モデルが構築されると、その予測モデルに新しいデータを代入して、予測させることができる。新しいデータを代入するとき、新しいデータに対しても正規化など前処理を施す必要がある。新しいデータに対して前処理するときに、学習時に用いた前処理用のパラメーターと同一のものを使う必要がある。そのため、前処理の段階で使ったパラメーター情報などは保存しておく必要がある。