定義し、これを最小化する手続きを取ります。決めることを学習と呼びます。出力してくれることを期待するのです。どのような形にするのかが重要になるのは言うまでもありません。それぞれ確率分布と見なして、確率分布を近づける。いう損失が用いられます。損失関数を考えるモチベーション上記の損失関数は「ベストである」という保証はどこにもありません。手元のデータを表すには、最尤推定という枠組みにおいて上記の形を取るというだけの話です(従って、特別な工夫なしでは必ず過学習すると思っていい)。ニューラルネットには過学習を防ぐ様々な工夫が存在します。ドロップアウトや正則化などが代表的な例です。実用的な場面に置いては、データ量や計算コストが膨大なディープラーニングより、工夫された機械学習を用いた場合が良いケースもあります(というよりそれで済むならそうしたほうが良い)。従って、ディープラーニングをやる人でも従来の機械学習の手法について知見は有していなければならないと思っています。今回は分類に用いられる損失関数について一度まとめておこうと思います。出力することを目的としています。この際、回帰との大きな違いは、出力値が正解データに近いか否かを、値の差を見るなどの単純な方法では測ることができないという点です。このことは分類問題を考える上では明確に意識して置かなければなりません。そのことを知るために、2クラス分類における重要な基本的損失関数を先に見ておきます。