IIR12章は言語モデルについて。言語モデル言語モデルとは何か?まず、以下の有限オートマトンを見てみる。wish...が生成される。このように、タームとタームの関係性をモデル化したものが、言語モデルである。確率的言語モデル確率的言語モデルとは、言語モデルに、タームの生起確率を与えたものである。以下の生起確率が与えられているとする。P(s|M2)より、M1の方がsを生成しやすい(適合している)といえる。以下、情報探索に言語モデルを用いることを考える。各ドキュメントを言語モデルとして扱い、P(d|q)でドキュメントのランキングを行う。ここで、となるが、P(d)とP(q)は無視できるので、結局P(q|d)でランキングを行うのと同じことになる。クエリが言語モデルから生成される確率でランキングを行う。どのようにP(q|d)を計算するのか?まず、ナイーブベイズにおいて、条件付き独立と仮定して、以下の式を導く。これは、以下の式と等しい。次の式を用いて計算できる。これで求められるように思うのだが、この求め方には1つ問題点がある。積で表されているので、クエリのタームが全て含まれていないものは全て0になる。よって、これを避けるためにスムージング処理を行う。ドキュメントセットの言語モデルとして、以下の式を用いる。これで上記の問題は解決される。短いクエリの時はλは小さい方がよく、長いクエリの時はλは大きい方がよい。λの決め方が重要になってくる。1/256となり、d2の方がd1よりランキング上位になる。00:00IIR12章まとめTweet広告を非表示にする関連記事2011-11-11IIR15章まとめ15章では、サポートベクターマシンとドキュメントにおける機械...2011-11-11IIR13章まとめ13章は、テキスト分類とナイーブベイズについて。テキスト分類...2011-11-10IIR11章まとめ11章では確率モデルについて説明する。確率モデルは、クエリと...2011-11-09IIR10章まとめ10章では、XMLにおける探索において。CLOSET超音波通信を利用したiPhoneアプリも開発。(1)はてなブログをはじめよう!pika_shiさんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。