マーケティング等々に関する勉強・解説ブログ。数式は使わずイメージで説明出来るよう心掛けていますが、時々暴走します。機械学習Tweet今日は統計学や機械学習、その他画像認識等の場面で登場する「次元削減」の話について書こうと思います。次元にうつすことで、次元を下げることを指します。4科目(1科目0点~100点)のテストをしたとします。この時太郎君は国語:70点、数学:90点、理科:85点、社会:60点だったとします。太郎君の点数を見た塾の先生や、太郎君の親は「太郎君は、理系科目が得意だね~」なんて言ったりしますよね。スポンサーリンクでも、今ある変数に「理系科目変数」なんてものは無いわけです。置き換え、(文系科目)<(理系科目)という何かしらの基準に基づく大小関係を考え、「太郎君は理系科目の方が得意」という話になるわけです。数学や国語に重きを置くわけでないのなら、例えば次のような変換が出来ますね。次のようになるはずです。太郎君は理系科目の方が得意だとなるわけです。この簡単な変換も実は「次元削減」です。)になっていますよね。この次元削減、どんな利点があるのでしょう。何の利点も無いのに、人間が普段の会話で何となくこんな次元削減したりすることはないはずです。さておき、8科目、9科目、かなり細かい専門に分けて10科目以上のテストをしたとして、その人の特性をどう解釈したらよいでしょうか。生データのままでは、せいぜい「この科目よりこの科目の方が点数が高い」とかそれくらいしか言えません。結局色々なデータがあっても、多次元すぎてどう解釈すればわかりませんねーとなるわけです。そこで、有用な情報を残したまま(あまり差の出ない情報は捨てて)、解釈しやすい次元までデータを持って行ってやろう!となるわけですね。有用な情報を残すとは具体的にどういうことでしょう。先ほどの例は、国語と社会は文系科目という分類が一般認識としてあるので、次元削減の方法までは考える必要もありませんでしたが、実データでは、「削減したいのはやまやまだけど、どう分けたらいいか分からない!」という状況の方が多かったりします。そこで普通は(色々方法はありますが、よくある手法として)、データの分散に着目するわけですね。主成分分析や決定木等の手法は、分散に着目した分析法です。分散に着目するかというと、話は単純で分散が小さい⇒データ間に決定的に差が無いと考えられるからです。10人生徒に対して、国語のテストをしたとします。点数が次のようになったとすると国語の得意な生徒と苦手な生徒に分けるのは簡単ですね。このデータには、国語の得意・苦手の情報がしっかり入っているため、国語が得意か苦手か分けることが容易ということになります。点数が次のようになっていたとするとこれで国語の得意な生徒と苦手な生徒に分けるのはしんどそうです。このデータは分散が小さく、皆が似通った点数を取っているため、国語の得意な生徒と苦手な生徒に分けるのは難しいということになります。したら、生徒皆が国語のテストが得意で、全国平均20点のテストを受けているのかもしれませんし、実は生徒皆が国語のテストが苦手で、全国平均90点のテストを受けてこの点数になっているかもしれません。70点くらいまでならだれでも取れるけど、それ以上を取るのが難しいようなテストで、得意な人も苦手な人も点数が均されている可能性もありますね。何が言いたいかというと、分散が小さい分類基準よりも、分散が大きい分類基準の方が、そのデータの性質が見出されやすいということです。主成分分析では、分散が大きくなるように主成分を決定していきますよね。これが、次元削減の概要になります。次回にでも主成分分析等々の手法について記事をあげていこうと思います。17:13次元削減とはTweet関連記事2019-05-19私が敢えて高校の進路調査で文系を選択した理由と文系不要論についてここ最近、このブログも少しずつ読者を増やしつつあり、多くの...2019-02-05Rで多変量正規分布の最尤推定量を求める今回は多変量正規分布についてやっていこうと思います。お陰様で読...2018-09-30基礎からイメージで学ぶ統計学~二項分布編~前回は正規分布について話しました。専門にする大学院生がかいてます。経済学部出身の文系です。時々趣味や日々の生活についても書きます。専門以外のことに関しては、単なる自分のアウトプットのため、不正確な記述があります。勉強友達・勉強ブロガー友達等々も募集中なので、気軽にコメントとかしてください~。読者になるプライバシーポリシープライバシーポリシーお問い合わせお問い合わせフォーム注目記事スポンサーリンクオススメ記事www.bananarian.netはてなブログをはじめよう!bananarianさんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。