「つまり、サービスを悪用する側とのイタチごっこが繰り返されていくのです」(松井氏)また、監視精度の課題として「禁止ワードは含まないが内容的には問題のある」不適切なニュアンスの投稿への対処も挙げられる。「例えば事件・犯罪を発生させる可能性のある内容でも、あからさまな禁止ワードを使っていない投稿や、アクセス数を稼ぐためのワードサラダ(文法は間違っていないが、文章として意味が破綻している)やスパム(無差別に大量にばらまかれるメッセージ)などです」(藤坂氏)もちろん、サービスを悪用する側の事例や傾向を掴むことで対策も採られているが、あからさまな禁止ワードを持たない性質上、スルーされる可能性は高い。結果、高い監視精度を保つためには、発見される度に禁止ワードリストを更新していく他なかった。新サービス開始時など、多い時には100人態勢で作業にあたります。新たなサービスは次々と生み出されますし、もちろん24時間体制なので、人的コストの低減は大きな課題でした。富士通は現在、営業やSEが最先端の技術開発を行う富士通研究所と共に、自社の最新技術とノウハウをお客様に提案する新しいビジネススキームを積極的に推進している。今回、同社に提案した「Zinraiを活用した自然文解析エンジン」は、この活動の成果でもある。「富士通さんにはこれまでも様々なご提案を頂いていましたが、今回、より監視精度を高めたシステムを構築できるかもしれないという可能性を感じて、一緒にやらせていただこうと思いました。学習用の膨大なデータをエンジンに学習させ、解析モデルを生成。そのモデルを用いて検証用データを解析・評価し、エンジンの精度チェックを行うテストを繰り返した。学習用データと検証用データに秋葉原ラボから提供されたブログの生データを使用することで、より実業務に近い形でのテストが可能になった。富士通と秋葉原ラボの両環境で検証を実施することで、技術者たちが顔を突き合わせて活発な議論や意見交換を行うことができ、結果として、高い解析精度を得ることができた。ところが、同社からの回答は不採用。まとまった件数のデータを一気に解析するので、ある程度は高速で処理できます。通常私たちが行っている監視作業は、投稿された時点で逐次的に行うため、一件単位の処理速度が大事になってきます。取り扱う件数も膨大なので、一秒遅いだけでも全体では大きなロスになります」(藤坂氏)その後、逐次的な処理にもスムーズに対応できるようプログラムの実行手法を変更し、処理速度を改善。2018年3月、ついに採用にこぎつけた。「Zinraiを活用した文字解析エンジンの一番の特長は、自然文をチェックできる点です。機械学習によって文章の構造や文脈を学習して、そこから獲得したルールを基に判別を行います」(藤坂氏)そのため従来のエンジンとは異なり、あらかじめ禁止ワードのリストを設定しなくても文脈を考慮して解析を行い、不適切なニュアンスの投稿を検知することが可能だ。実証実験で得た十分な手応え実証実験で得た結果は、今後に大きな期待を抱かせる。「実際に不適切な投稿が占める割合は、全投稿数の1%もありません。ことわざで“藁の中から針を探す”と言いますが、今回、実証で得た検知率を見ると、富士通の解析エンジンが非常に優秀な監視スキルを持っていることが立証されたと思います」と福田氏。実証実験では、既存のエンジンで検知できなかった不適切な投稿に対して、94%という高い検知率を記録。その際に要した時間はわずか0.01秒台。監視精度の向上とともに高速解析処理も実現した。「機械学習のために必要なデータを大量に保持していることが我々の強みですが、今後も日々データを収集、それをシステムが学習するというループを富士通さんと協力して繰り返していくことで、さらなる監視精度の向上が見込まれます」(福田氏)また、「解析エンジンが不適切な投稿を検知してくれる割合が増すことで、有人監視の負担も減ります。コスト低減が期待されるばかりでなく、監視に割いていた人員が他の仕事に従事できるため会社全体の仕事の効率化にも繋がります」(藤坂氏)「技術的な数々の要望に対し、真摯に対応していただいて感謝しています。この解析エンジンはブログの監視に活用されますが、今後は、このフィルタリングエンジンを当社グループ全体に展開し、さらに快適に利用いただけるメディアサービスの提供を目指します。これからも富士通さんと協力して、様々なアイデアを出し合ってビジネスを拡大していきたいと思います」(福田氏)今回のプロジェクトを通してお客様との共創ビジネスを活動テーマに最新技術の紹介、仮設提案を繰り返し実施している中でブログサイトのスパム投稿対策における監視運用の負荷を軽減し、より高度に対応するため今回の自然文解析エンジンをご提案させていただきました。弊社の高精度なエンジンと、サイバーエージェント様が持つ学習向けにしっかり整理された膨大データとのコラボレーションが、成功に繋がったと考えております。サイバーエージェント様からは、はっきり良い悪いという評価を、明確な根拠を添えてご指摘頂けたからこそ、技術の向上と改善に向けて真摯に取り組むことができたと感じております。サービス「AWA」やインターネットテレビ局「AbemaTV」を開始し、幅広い利用者からの支持を得ている。2011年開設の秋葉原ラボは主にメディア事業の大規模データを集約し、サービスの改善に貢献する研究組織。道路下の空洞探査データの解析にAIを導入。