Examples」と呼ばれるそのようなサンプルを生成するための方法がいくつか提案されています。本稿では、その中でも画像上の1ピクセルを変更するだけで、ニューラルネットワークに誤った画像を認識させ、特定の結果を返すように誘導する方法が提案されています。networks1ピクセルで、ニューラルネットワークを攻撃する?ニューラルネットワークを騙して、間違った画像として認識させるには、画像をどれくらい修正する必要がありますか?—1ピクセルで十分です。本研究によると、画像上の1ピクセルを変更するだけで、ニューラルネットワークに誤った画像を認識させ、特定の結果を返すように誘導することさえ可能になります。Vargas、桜井光一氏らによって、行われたものです。1ピクセルを変更しにニューラルネットワークを欺くという不思議なテクニックを詳述した論文を発表しただけではなく、対応するKerasの実装も公開しています。Attack」(一画素アタック)と呼ばれています。ここでは1pixelでニュラルネットワークネットワークを欺く方法について簡単に紹介していきます。Examples画像認識の分野では、DNNベースのアプローチは従来の画像処理技術よりも優れており、人間と競合する結果さえも達成しています。Examples)」と呼ばれるそのようなサンプルを生成するための効果的なアルゴリズムがいくつか提案されています。敵対的画像を作成するための一般的な考えは、人間の目には知覚できないと期待される微調整された摂動(小さな攪乱・ずれ)を、正しく分類された自然画像に追加することで、下図のようにモデルに間違った答えを出力させてしまおう!といった感じです。この例では、もともとモデルがパンダと正しく分類することができていた画像に”摂動”を与えることで、テナガザルと誤分類させています。これらの違いは人間にほとんど分からず、元画像(パンダ)のままに見えます。Exampleしかし、以前の攻撃のほとんどは、極端に限定されたシナリオを考慮していませんでした。(すなわち、修正されたピクセルの量はかなり多い)どうやって騙す?実験はCIFAR-10とImageNetのデータセットで行われました。このデータセットに対する通常のニューラルネットワークの役割は、画像が属する分類を正しく予測することです。ピクセル攻撃の目的は、画像からピクセルを選択し、その色を変更し、ニューラルネットワーク出力のカテゴリラベルを変更し、正しいカテゴリへの信頼度を下げ、他のカテゴリの精度を向上させることによって対立画像を作成することです。ニューラルネットワークに間違ったカテゴリに分類させます。論文では、差分進化を用いて1つのピクセルのみを摂動させることによって、利用可能な唯一の情報が確率ラベルであるシナリオにおけるブラックボックスDNN攻撃を提案しています。差分進化とは微分進化(DE)とは進化的アルゴリズムの一つです。DE)とは、与えられた評価尺度に関する候補解を反復的に改良していき、問題を最適化する手法です。DEでは候補解集団(エージェントとよばれる)を保持して動作します。直感的にいうと、複数の探索点の中から、自身以外の点をいくつか選んで新たな探索点を作成し、自身とその探索点を評価して更新する、といった感じです。新しく探索点を作成する際に、2つ以上の探索点から作成した差分ベクトルを使うことから、差分進化法と呼ばれていますDEでは、与えられた問題に対し、まず、その解候補となるような個体(値、ベクトル)をランダムに複数生成します。呼ばれる各段階を踏んで、新しい世代の子集団を作成します。エージェントの更新位置が評価尺度の上で改良を示したなら、それは棄却されず候補解集団の一部となります。なければ、その位置は棄却されます。この過程が繰り返され、(最適解の保証はないが)解に到達します。これを何世代分も繰り返すことで、個体集団世代を追うことに、どんどん進化させていき、個体を解に近ずけて行こうという進化的アルゴリズムの考え方です。Attackこの差分進化を用いて1ピクセルのみを摂動させることにより、DNN攻撃を提案しています。