コードネームは初話ユウスマートフォン用の表示で見るコードネームは初話ユウ自然言語処理でいろいろやってみるこの広告は、90日以上更新していないブログに表示しています。2012-10-20KNBコーパスで正答率を測るせっかく係り受け解析器を作ったので、やはり精度がどうなってるか気になる。いうことで、測ってみることにした。論文とか見るとだいたい皆さん京大コーパスというのを使ってるようだ。...えーと、毎日新聞CDROMてのがいるのか。12まん6せんえん!?誰が買うねんそんなもん。なんか別のものがないか探してみると、KNBコーパスというのがあり、これは本文も入ってるらしい。いうのでこちらに決定。KNBコーパスをやってみた、という人もいた。こちらは文節区切りと固有表現が対象で、係り受けではないみたい。http://nlp.ist.i.kyoto-u.ac.jp/kuntt/KNBC_v1.0_090925.tar.bz2でやってみたのだが、困ったのは、コーパスの文節区切りとcabochaのそれとが食い違うケースがけっこうあること。文節が違うと係り受けの比較が意味をなさなくなってしまう。考えて、大半のケースはうまく処理できるように工夫してみた。何をやったか、どんな比較をしたかがわかるように、これに使ったツールも公開しておく。https://github.com/yu-hatva/cab_on_knbc「大半のケース」と書いたが、それでも扱いきれないケースもあるので、その場合はしょうがないので比較から除いた。約4000文のうち、150文ほどがこれで除かれた。残りの文に対して係り受けを走らせ、各文節に対して係り先が正答か誤答かを決め、正答・誤答それぞれの文節数を数えた。文最後2つの文節は常に答えが決まってるのだが、このうち最後から2番めの文節は数え、最後の文節は数えていない。係ろっとの比較なので、とりあえず同じ基準でありさえすればいいだろう、と思っている。他のデータと比較するときは要注意。IPAdic)と係ろっと双方に対してこれを行った。cabochaには及ばないけど、まあかなりやっつけで作ったにしては上出来ではないかと思う。訂正:すみません、スクリプトに一部バグがあって計算が違っており、正答・誤答数が間違えてました。cabochaがコーパスより余分に文節区切るケースの正答がミスってました。再度訂正:チェック対象の文節を一部減らします。cabochaの方が文節を細かく区切っている場合は、そこへ係るべき文節をチェックしないようにしました(コーパスだけからは正解がわからないので)。これにより約700文節が対象から外れました。78.8%Githubの方も対応して修正しておきました。京大コーパスを試したと前回書いたが、比較のためにcabochaでも...2012-12-03ちょっと立ち止まって分析してみるツテをたどって、京大コーパスなるものにアクセスできたのでち...2012-11-06徐々に改良中KNBコーパスで正答率が出るようになると、やはり良い数字を出し...2012-10-15【作ってみた】全域探索を行う日本語係り受け解析器「係ろっと」できた。係り受けの次のステップ月別アーカイブはてなブログをはじめよう!yu_hatvaさんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。