アイコラと同様に拡大へTweet右が露・プーチン大統領のディープフェイク動画(AFP=時事)1990年代に流行したアイドルコラージュ、いわゆる「アイコラ」は、2000年代になりネットの世界にも広がった。その多くは、芸能人(アイドル)の顔写真と別人のセクシーな写真を組み合わせるなど、様々な権利を侵害し、使用された被写体を深く傷つけるものだった。いま、AIの一種である「ディープラーニング(深層学習)」と「フェイク(偽物)」が合わさった「ディープフェイク」技術によって制作された動画によって、新たな被害が生まれつつある実態を、ライターの森鷹久氏がレポートする。*来年の大統領選や株価に重大な影響を与える可能性がある──アメリカ下院の情報特別委員会で、出席者が懸念したのは人工知能を使って偽の動画を作る「ディープフェイク」と呼ばれる技術についてである。個人や一部のメディアが特定層に利益を誘導させ、相手を貶めるために嘘を流布させる「フェイクニュース」といえば、前回のアメリカ大統領選ごろから話題になったことも記憶に新しい。悪い意味での影響が大きすぎると、大手メディアが「フェイクニュース」を見分ける専門部隊を創設させるなど、情報戦争の様相を呈しているが、次は「ディープフェイク」を使った「動画」だというわけだ。6月8日にインスタグラムへアップされた「フェイスブックの真実を明かす」という説明がついた15秒の動画は、その内容と、語っているかのように見える人物が人物だっただけに、世界に衝撃を与えた。「フェイスブック創設者のマーク・ザッガーバーグ氏が“1人の男が、数十億人の秘密や暮らし、未来に関する個人データをコントロールできることを想像してみろ”と話しているように見える動画がSNS上に公開されました。氏がフェイスブック上の情報を"自由に利用できる"と話しているようなものでゾッとしますが、これがディープフェイク動画だったんです」(大手紙記者)筆者も動画を見たが、ザッガーバーグ氏が話しているかと一瞬、錯覚をしてしまう。聞いていると声が違う(実際には俳優が声をあてているのだという)ので、最終的には本物ではないと分かる。結局、この映像はアート作品のひとつだったため制作者から「ディープフェイク」動画であると公表されてネット世界のざわつきはおさまった。似たような技術を駆使した動画を見たとき、文章の冒頭だけを読んで全体を判断してしまうような人や、タイトルだけを見てすべてを早とちりするような人だったら、本物だと信じてしまいそうだ。SNSユーザーらの手によってあっという間に「フェイクニュース」が拡散されてしまうのと同様か、動画という信ぴょう性もあいまって、それ以上の影響が出るおそれもある。米下院が公聴会を開き、SNS企業に対策の協力をよびかけるほどの“効果”は確かにあるのかもしれない。これは、IT大国アメリカで起きている対岸の火事ではない。都内の芸能事務所担当者が打ち明ける。「おたくの女優のアダルト映像が流出している、と連絡があったのは昨年末ごろ。映像を見ると、確かに弊社に所属している女優・Xが男性と関係を持っている映像でした。見てみると髪型がおかしく、映像も不鮮明。顔が別人と入れ替わる。ドラマやCMに出演し、押しも押されぬ大女優の地位にのし上がった・Xの流出映像となれば大問題だが、実はこれも「ディープフェイク」による偽の映像だった。確認すると、顔の表情はXそのものだが、髪型や耳の形、そして体型はXとは異なる。した偽のアダルト映像が今、ネット上で急速に広まっている。アダルト業界に詳しいライターが次のように解説する。「ネット黎明期に流行った"アイコラ"(アイドルコラージュ)は、ヌード写真の顔を有名人とすり替えたもので、アイコラ専門サイトが林立するほどの人気でしたが、今はその映像版であるディープフェイク専門サイトが国内外で立ち上がっています。ターゲットとなるアイドルの映像をAI(人工知能)に学習させ、表情のパターンを作らせる。それを既存のアダルトビデオに出演する女優の顔にはめ込むわけです。ら出演しているように見える動画が大量に投稿されていた。多くの罪に問われそうな行為にも関わらず、問題視するもの、咎めるものはほとんど見当たらない。筆者は、こうした動画を制作し、ネット上にアップロードしていると見られる複数のユーザーに接触し、そのうちの一人に話を聞いた。「本職はデザイナーですが、AIに興味があり、趣味で作ったディープフェイクのアダルト映像をSNSにあげたところ、大変な反響があったんです。ビットコインで支払うから、この女優で映像を作って欲しいなどの要望もあり、実際にそうした取引に応じたこともあります。ダークウェブ界隈の取引サイトでも動画の売買が行われているようで、海外では専門のサイトが多く立ち上がっています。大きな収益になるかもしれませんが、僕はまだ小遣い程度。趣味の範疇を超えないですね」この人物、一貫して悪びれることはなく「単なるお遊び」といって憚らないが、やっていることが様々な権利を侵害しているのは明らかだ。関わらず、彼らが「悪びれない」ことの背景には、特にセクシーなディープフェイク動画の場合は、見た人を「騙してやろう」という目的で作成されていないこともある。先に紹介したネットユーザーらの「賞賛コメント」を見てもわかるように、皆が「偽物だとわかった」上で、動画を作成したり閲覧したりする。課金型のアダルトサイトにもディープフェイク動画は多数アップされているが、金を払ってでもいいから「偽動画」を見たい、というユーザーも確かに存在するのだ。彼の言動からは、後ろめたさを抱いていることも感じさせる。「動画の投稿は全て、簡単には足がつかない特殊なWebブラウザを通じて行なっています。こんな馬鹿なことで逮捕されたら恥ずかしいじゃないですか」こんな「馬鹿なこと」ではあるが、すでに傷つき、実生活や仕事に影響が及んでいる被害者に思いを馳せる様子は微塵もない。悪影響を及ぼすかもしれないのに、だ。技術の進歩は歓迎すべきだが、それを作り上げた人間、利用する人間の秩序は、いつも出遅れるばかり。芸能スポーツに至るまで雑誌発のスクープ、プロフェッショナルの取材に裏打ちされた情報を厳選してネット向けに再編集、WEBオリジナルの記事も配信します。Corporationログインログインするアカウントをお選びください。以下のいずれかのアカウントでBLOGOSにログインすることができます。いずれかで認証を行う必要があります。※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。%>ログアウトさんの、内容変更はマイページの設定でいつでもできます。ログインする方で認証ができました。ガイドラインに同意する。今までにログインしたことのあるアカウントをお選びください。同じユーザーとしてログインが可能になります。twitterでログインfacebookでログインlivedoorでログインTweetコメント。