コンソーシアムがおこなったAIに関するリサーチの結果を発表しました。それによると、悪意を持った攻撃者が既にAIに対して攻撃を仕掛けていることが判明しています。自動運転、SNS、サイバーセキュリティなど、人々の暮らしのほぼすべてのシーンにおける活用が急速に進んでいます。発表した新しいレポートでは、人間である攻撃者は機械学習技術を利用できますが、機械学習を使用した新しい攻撃手法を作り出すことより、現存するAIシステムを操作して悪用することに注力している、ということが述べられています。本リサーチのフォーカスは、悪意を持った攻撃者がAI、機械学習、スマート情報システムをどのように悪用できるか、という点にあります。研究者たちは、洗練された偽情報の作成やソーシャルエンジニアリングキャンペーンなど、今日の攻撃者の手が届く範囲にある、AIの悪質な用途を特定しています。このリサーチでは、悪意を持った攻撃者がサイバー攻撃を仕掛けるために既にAIを使用しているという決定的な証拠は見つかりませんでしたが、攻撃者はすでにサーチエンジン、ソーシャルメディア運営企業、レコメンドサイトなどで使用される既存のAIシステムを攻撃しています。映画、ドラマ、小説などではAIが人間に対して反乱を起こし攻撃を仕掛けてくるという設定が多く用いられていますが、現実には人間がAIシステムを定期的に攻撃している、ということなのです。した現実は多くの人にとって驚きに値するものだろうと考えています。「これは誤りなのですが、一部の人々はAIと人間の知能を同一視しています。殺人ロボットや制御不能なコンピュータと関連付けてAIを脅威に感じるのはそのためです。実際には人間によるAIへの攻撃は多く発生しています。した行為をサポートするサービスを販売している企業もあります。皮肉なことですが、実は人間がAIを恐れるべきなのではなく、AIが人間を恐れなければいけないようです。」シビル攻撃では、AIが決定を下すために使用するデータを操作するために、単一のエンティティが複数の偽アカウントを作成し制御するようになります。サーチエンジンのランキングやレコメンドシステムを操作して、特定のコンテンツの順位を上昇/下降させることなどがシビル攻撃の例です。これらの攻撃は、標的型攻撃のシナリオの中で個人に対するソーシャルエンジニアリングの一部としても使用されます。「こうした攻撃は、オンラインサービスプロバイダにとっては検出が非常に困難であり、この行動は人々が理解しているよりもはるかに広範に及んでいます。」と、Twitter上の不審な活動について調査を行ったPatelは述べています。将来的には攻撃者にとって最も攻撃の価値のあるAIの用途は、フェイクコンテンツを作成することでしょう。リサーチによると、AIは非常に現実的な文章、音声、およびビジュアルコンテンツを作成できるレベルまで進化しています。AIモデルの中には、攻撃者による悪用を防ぐために、一般に公開されていないものもあります。「現時点では、高い説得力を持つようなフェイクコンテンツを作成する方が、そうしたフェイクコンテンツを特定するよりも簡単なのです。AIは音声/動画/画像の作成において人間のサポートをしていますが、AIのそうした能力がフェイクコンテンツのさらなる洗練化につながるのです。したフェイクコンテンツは様々なアプリケーションで使用されるため、より大きな問題を引き起こしてしまうでしょう。」と、Patelは語っています。本リサーチで取り上げたその他の調査結果とトピックは次のとおりです。攻撃者は、攻撃手法の普及に合わせて、AIシステムを危険にさらす方法を学び続ける。攻撃者がAIの出力を操作する方法がいくつも存在するため、このような攻撃を検出して防御することは困難。攻撃的/防御的な目的でより優れたAIを開発しようと競争は、「AI軍拡競争」を引き起こす可能性がある。(たとえば、アクティビティの監視を強化すると、ユーザのプライバシーが侵害される可能性がある、など)。高いスキルや豊富な経験を持つ攻撃者によって開発されたAIツール/モデルは増殖と普及を経て、最終的にはスキルレベルの低い攻撃者にも使用されるようになるだろう。Stahl教授は、サイバーセキュリティ業界からの唯一のパートナーとしてのSHERPAに参画しているエフセキュアの役割は、悪意のある攻撃者がAIを使用して社会全体の信頼を低下させる手法について、SHERPAプロジェクトをサポートすることだと語っています。「SHERPAプロジェクトの目的は、AIとビッグデータ分析の倫理的および人権への影響を理解し、これらに対処する方法を開発するサポートを行うことです。AIで人権、プライバシー、または倫理について意味のある会話をすることにおいて、サイバーセキュリティは必ず考慮しなければならない項目です。エフセキュアは、コンソーシアムにとって重要な専門分野であるセキュリティ/脆弱性において、テクノロジーおよび知識の面でプロジェクトの中心的な部分となっています。」SHERPAプロジェクトによる本リサーチの結果は以下でご覧いただけます(英語)。https://newsfromthelab.files.wordpress.com/2019/07/d1.3-cyberthreats-and-countermeasures.pdfまた、AIやサイバーセキュリティに関するF-Secureのブログやリサーチラボのブログはこちらをご覧ください(英語)。https://blog.f-secure.com/artificial-intelligence-cyber-security/https://labsblog.f-secure.com/2019/07/08/security-issues-dangers-and-implications-of-smart-information-systems/エフセキュアについてエフセキュアほど現実世界のサイバー脅威についての知見を持つ企業は市場に存在しません。数百名にのぼる業界で最も優れたセキュリティコンサルタント、何百万台ものデバイスに搭載された数多くの受賞歴を誇るソフトウェア、進化し続ける革新的な人工知能、そして「検知と対応」。これらの橋渡しをするのがエフセキュアです。世界中の多くのエンタープライズから、「世界で最も強力な脅威に打ち勝つ」という私たちのコミットメントに対する信頼を勝ち取っています。グローバルなトップクラスのチャネルパートナー、200社以上のサービスプロバイダーにより構成されるネットワークと共にエンタープライズクラスのサイバーセキュリティを提供すること、それがエフセキュアの使命です。エフセキュアは本社をフィンランド・ヘルシンキに、日本法人であるエフセキュア株式会社を東京都港区に置いています。ヘルシンキに上場しています。VIP%d人のブロガーが「いいね」をつけました。