Languageチームが2018年10月に発表した自然言語処理のモデル「BERT」は、質疑応答や自然言語推論といったさまざまな自然言語処理のタスクにおいて先行する言語モデルを凌駕する性能を実現しました。Center」をリリースするなど、徐々に活用が進んでいます。ストックマークは、組織の情報収集の活性化ツール「Anews」や営業活動をAIを活用して効率化する「Asales」など、自然言語処理を活用したサービスを多く手がけてきました。ストックマークが新たにリリースした経営戦略の判断にAIを活用する新サービス「Astrategy」は、収集した情報を「BERT」などの自然言語処理技術を活用して分類し、競合の情報や業界動向を日々まとめ、意思決定をサポートするツールです。BERTに関する記事はこちら自然言語処理技術の簡単な変遷を教えてくださいまずは、簡単に自然言語処理技術の簡単な変遷を振り返りましょう。有馬氏:自然言語処理技術は古くは戦時中から、アメリカがロシアを諜報する目的で、ロシア語を機械に翻訳する取り組みなどが行われていましたが、ほとんどが実用レベルに至ることはありませんでした。活用した実用レベルのアプリを安価に制作できるようになりました。それまでは、例えば「AI」と「人工知能」のように同じ意味でも、全く意味の異なる単語として処理されてるレベルの理解にしか及んでいなかったんです。古くから研究開発されていたものの、なかなか実現にはいたりませんでした。多くの企業が研究開発にあたっていますが、ここまでの処理能力を得たのはここ数年のことです。そんな自然言語処理技術のレベルについて、最新のモデル「BERT」でも、純粋な精度では人間のほうが平均的に上だと有馬氏は指摘します。有馬氏:BERTは確かに、これまでの機械学習技術よりも確かにかなり精度が高いことが特長です。実用上もかなり精度が高いケースが多々あります。実際、ストックマークが運営する企業に向けたニュース配信サービス「Anews」で使われている記事をジャンルごとに分類するタスクについては、5年前主流だった手法と比較しても正答率が75%から92%になり、20%近くもの向上が見られました。純粋に精度だけの観点からの話をすると、まだ本気の人間の方が平均的には上です。囲碁などではAIが人間を上回る結果をマークしているケースもありますが、人が本気でやったら人間が精度の点ではまだ上というのがBERTを実適用をして見た素直な結果です。「BERT」は汎用言語生成モデルとも呼ばれ、汎用的にさまざまなタスクに対応できることが強みです。生成にも強みを持つことから、会話AIへの実装の可能性も広がっています。実際にサービスに「BERT」を取り込んだ有馬氏にメリット・デメリットを伺いました。有馬氏:BERTはこれまでのAIと同様、あるいはこれまで以上に「常識」という名のバイアスがありません。そのため、実問題に適用した時に「いや、それはありえないだろ!」というようなアウトプットを出してくることがあります。「シリコンバレーの一流エンジニアが手がける開発プロジェクトサービス」という文章を解析した時に「一流エンジニア」という言葉は企業の名詞だという結果をBERTは出しました。人間が見たらその単語は常識的にどう考えても企業ではないと判断できますが、BERTは文脈から企業と判断しました。確かに「一流エンジニア」を「Google」に置き換えても文意は通じるので、論理的には企業と判断することはできますが、実用的ではありません。処理できる量は人間をはるかに上回ります。記事の分類では人間がやった場合1記事あたり3秒程度かかりますが、AIでは0.01秒などでできるので、300倍ぐらい早いことになります。Astrategyでは1日10万記事の分類を行なっていますが、それを人間でやると83時間かかります。AIでは30分弱でできるので、サービスの運営をするにはAIでやるしか道はありません。100%の精度が必要な処理ならば人間でやるしかありませんが、どちらを取るかはビジネス上の質を捉えた上での意思決定となるでしょう。|それぞれのニュースに対して、どのカテゴリの記事なのかを「BERT」を通して推定し、分類しています。人間には限界がある処理速度。量を取るか確実な精度を取るかはサービスの特性に合わせて選択する必要がありそうです。有馬氏は「バイアスがない」こともメリットになると強調します。有馬氏:BERTは「常識」という名のバイアスバイアスがないと述べました。それはメリットでもあると考えています。バイアスがないからこそ、バイアスで選択肢を絞りがちな(特に熟練した)人間では導出できなかった観点やインサイトを導出し、それが大きいビジネスインパクトを導くこともできます。これからもさらなる発展が期待されます。とどのように関わって行けばいいのでしょうか。最後に有馬氏に自然言語処理技術との関わり方について伺いました。有馬氏:AIに人間が「問題」だと考えている内容を教えるのは、これまでのAI技術だろうとBERTだろうと、やはり難しいです。データ化できない「問題」はAIに教えられません。恋愛のような人間の通有性に深く根ざした問題は解決できません。データ化できる問題しか解かせることはできないということを承知しておくことです。バイアスがないからこそ、人間には辿り着けないインサイトを導出することができるというわけです。問題設定を人間が行う代わりに、人間には考察しようのない洞察を、膨大な文章から得ることができる。それが自然言語処理技術との正しい付き合い方のようです。BERTで陥りがちな「学習モデル何個作るんだよ問題」BERTに関しても活用のコツを伺いました。有馬氏:実行論の話になりますが、BERTを無邪気に実適用すると、学習モデル何個作るんだよ問題に直面し、大赤字を垂れ流すシステムが出来上がっています。人間は多軸で物事を判断している。先程述べた問題で「一流エンジニア」を企業だと人間が判断しないのは、「文脈」という軸以外に、「字面」という軸で判断し「一流エンジニア」はどう考えても字面的に企業名ではないと判断できるからです。「文脈」を学習したBERTと、「字面」を学習したBERTを両方持っているイメージですね。人間に近づき、人間を超えるためには、軸ごとのBERTが必要になり、それを組み合わせて物事を判断するようなロジックを作る必要がありますが、人間が持っているおおよそ無数にあるすべての判断軸に対してBERTを作るのは実際問題かなり難しいのではないかと思います。実運用上はかなり高コストになることが予想されます。ストックマークが運営しているAnewsには既に数万を超えるユーザーさまにご活用いただいていますが、各ユーザーさまにBERTを使ってパーソナライズを行おうとすると、数万個のBERTモデルが必要になります。BERTのモデルは巨大であり、1つで500MBぐらい必要になるので、数テラバイトの学習モデルを日々運用/再学習していく必要があり、そこまでのROIは現状の技術では出せていません。現状では、一世代前の、より軽量なアルゴリズムでも十分なレコメンドができており、中々コアの部分以外の全部をBERTに置き換えることに難しさはあると思います。実務上は、BERTは組織単位で重要と判断できる課題(例えば採用の自動化など)への適用に留め、個人単位へのパーソナライズを行う場合は、一世代前の軽量のAIアルゴリズムで対応するような形となるのが2019年現在においては現実的かと思います。BERTを用いると、準備すべき正解データ量が圧倒的に少なくて済むのは実適用上もメリットです。一世代前のAIでは数万件の学習が必要でしたが、BERTだと数百件で学習が収束し、しかも旧世代より10%も20%も高い精度を出すことができます。少ない学習データで済むので、はるかにAI適用、特にPOCの成功確率は格段と高まると思います。今後は学習データの少ない大企業以外の企業においてもAI適用が進み、AIの民主化と共に第四次産業革命のスピードは加速するだろうと実感しております。ソリューションズに入社。2000人月規模の会計業務システム開発案件等にてチームリーダーを担当し、社長賞に選出される。2016年にストックマーク株式会社を共同創業。終わりに注目される最新のモデルですが、コストを考えると、全ての領域に適用するには、まだハードルが高いことがわかりました。技術動向と費用対効果を見極め、効果の得やすいような領域から活用していくことが大切です。3億円の資金調達を行ったと発表しました。丸の内にて2019年4月22日から24日にかけて開催されました。自然言語への挑戦〜」の内容をお伝えします。AINOW自然言語処理を駆使しAIが営業活動を分析する「Asales」がリリースhttps://ainow.ai/2018/11/30/157015/東大発のAIベンチャー企業「ストックマーク株式会社」は、AIで営業の意思決定プロセスを高速化する「Asales」をリリースします。users今さら聞けない「自然言語処理(NLP)」とは?https://ainow.ai/natural_language_processing/こんにちは、ぱるです。みなさんの中で、「自然言語処理って何?」という質問に自信を持って答えられる人はどれくらいいるでしょうか?よくわからないけど、つまり言語に関連したAIでしょ?なんて思っている方も多いのではないでしょうか。usersBERTは何がすごいのか?https://ainow.ai/2019/05/08/166723/こんにちは、AINOW編集部のぱるです。現在、「BERT」というモデルが自然言語処理の分野で幅広く使用されています。さまざまな処理タスクにおいて、「BERTを組み込むことで従来よりも高精度になりました!」という論文をよく目にするようになりました。Horev氏はイスラエル出身で、イスラエル国防省のデータサイエンス・チームリーダーを務めたこともあるAI研究者です。■Twitterでも発信しています。┃AIが人間と共存していく社会を作りたい。活用の視点でAIの情報を発信します。AINOW編集部インタビューこの記事が気に入ったらいいねしよう!最新記事をお届けします。週1回、注目のAIニュースやイベント情報を編集部がピックアップしてお届けしています。こちらの規約にご同意のうえチェックしてください。英語学習AIロボットMusio、初心者向け英会話学習機能「LearnersChat」に連動した新機能を6月より提供スタートRECOMMENDこちらの記事も人気です。今年リリースのAIサービスからトレンドを...AINOW編集部2019.11.28今まで、午後休しか取れなかった。