元データ分析の会社で働いていた人の四方山話スマートフォン用の表示で見る元データ分析の会社で働いていた人の四方山話この広告は、90日以上更新していないブログに表示しています。データマイニング一年以上パターン認識・機械学習の世界から離れていたので、ちょっと色々とひどいことになっています。いっても、一年前も大したことはなかったので、再勉強というところでしょうか。リハビリをかねてこちらの本を読んで、まとめつつ、基礎から学び直していきます。できるだけ数式を書かないようにして、自分の曖昧なところを明らかにしていきたいと思います。G-Tools今回は、主に4章の識別部の設計についてまとめています。ここは自分でもけっこう大事だと思っていて、各論というよりは、パターン認識全体の概要になっていると思っています。学習パターンは、何らかの確率密度関数に従って生起し、それが観測されている考えられます。パターンの背後にある確率密度関数のパラメータ(要は分布のもとになる関数のパラメータ、正規分布だったら平均と分散みたいな)を推定するのが、名前の通りパラメトリックな学習です。いわゆる機械学習として有名なニューラルネットワークや、k近傍法などは、学習パターンの密度関数等は考えずに識別関数を構築するので、その名の通りノンパラメトリックな学習と呼ばれます。パラメトリックな学習は確率密度関数をもとにして識別部を構成する。いわゆるベイズ決定則に基づいた識別部が構成されますが、現実問題として、単純な分布関数に基づいてデータが観測されているということは考えづらく、なかなか難しい問題だったりします。学習データにラベルをつけることが可能、すなわち、学習データの確率密度関数が互いに独立しているという過程のもとで進める学習手法を教師あり学習と言います。学習データはどのクラスに属しているか、ということが明確なので、学習データと所属するクラスの情報をもとに識別関数を構成します。教師なし学習は学習パターンがどのクラスに属しているか分からない状態で行う学習手法です。確率密度関数をそれぞれ独立に求めることができません。このとき、識別するクラス数が分かっている場合は、混合分布(確率密度関数の線形結合で表される分布)のパラメータ推定問題となります。教師なし学習で有名なものとして、自己組織化マップなどがあります。クラス数すら分かっていない場合は、学習ではなくクラスタリングを行う必要があります。クラスタリングとは、特徴空間上で分布の塊を見いだす手法のことを言います。似た者は近くに集まってるはずなので、そこでまとめてしまおうという手法ですね。結論として言えることは、現実はそんなに単純な確率密度関数に従ったデータが得られるわけではないので、やはりパラメトリックな手法より、データさえあればひとまず結果を得る事が簡単なノンパラメトリックな手法の方が実問題には適用しやすいのではないでしょうか。教師あり学習/教師なし学習については、今の自分の知識ではなんとも言えません。理解が曖昧すぎて、悲しい感じで終わってますが、いいリハビリにはなっています。次回は、特徴量(次元)とデータ数の関係についてまとめてみたいと思います。18:55一年以上パターン認識・機械学習の世界から離れていたので、ちょっと色々とひどいことになっています。諸般の事情でブートストラップ法を利用する可能性が高いので復...2009-04-01これから勉強しなければいけないことあれこれさて、学生の本分は学業であると誰がいったかしらないが、研究...2008-07-25機械学習と統計の関係(なんとなく版)この前ごちゃごちゃっと書いたような書いてないようなことにつ...2008-07-04SVM1そろそろSVMについて一言どころかいろいろと言っておくか。いう講義のために調べたメモ。Entriesはてなブログをはじめよう!rindai87さんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。