最近、テレビやネットニュースでディープフェイクというワードを目にすることが増えてきました。

ディープフェイクとは、AIを活用した高度な画像加工技術や動画編集技術を使って作られた、まるで本物のような偽画像や偽動画のことを指します。

ここだけ聞くと、映画の世界の話のようですが、現在進行形で技術を発達しており、ツイッターや インスタグラムのような見慣れたSNSの中にもディープフェイクは潜んでいます。

明日は我が身というわけではないですが、偽情報に騙されたり翻弄されたりしないためにも、ディープフェイクについて多少なりとも知識を持っておく必要があるかもしれません。

AI技術が発達する中で加速するフェイク動画市場

ディープフェイクの脅威を世間に知らしめたきっかけの一つが、オバマ元大統領を映した以下の動画です。

「トランプ大統領は救いようのないマヌケ」、オバマ元大統領が堂々と語るこの動画ですが、実はコメディアンで俳優のジョーダン・ピール氏とバズフィードが共同で作ったフェイク動画なのです。

2018年の4月に公開されて以降600万回以上再生されているこのフェイク動画、オバマ元大統領の口元をよーく見ると若干不自然な部分が分かると思いますが、一見すると本当にトランプ大統領の悪口を語っているように見えます。

この動画に映るのがオバマ元大統領ではなく自分自身で、貶している相手がトランプ大統領ではなく会社の上司だったら、なんて想像するとその恐ろしさが伝わるかと思います。

実際、ディープフェイクと呼ばれるフェイク動画のほとんどが、誰かをからかったり誹謗中傷したりする目的で使われているそうで、特に多いのがアダルトビデオの女性の顔部分を有名な女性芸能人の顔に置き換えた動画だそうです。

ディープフェイクを検出するツールなどを提供する会社、Deeptraceの最新の報告書「Mapping the Deepfake Landscape」によると、フェイク動画の96%がポルノ映像だそう。こうした動画は、動画共有サイトで公開され、これまでに合計で1億3400万回を超える再生回数を叩き出すなど、市場は拡大しつつあります。

ディープフェイクが政治を揺るがす？！

冒頭で紹介したオバマ元大統領の動画は、ディープフェイクの脅威を人々に伝えるためのある種のアート作品として発表されましたが、実際にフェイク動画が、民意を動かしたという事例もあります。

それが今年5月、Facebookで公開されたアメリカ、民主党のナンシー・ペロシ下院議長の演説動画です。

その動画を見るとペロシ下院議員の語り口は非常にゆっくりとしていて発音も不明瞭に聞こえ、酔っ払っているかのように見えます。この動画と共に、ペロシ下院議員がお酒を飲んでスピーチに望んでいた、という趣旨の文言が公開されると瞬く間に拡散し、なんとトランプ大統領の公式 Twitter でもリツイートされたというのです。

この動画は実際のスピーチ動画の再生スピードを実際の75%のスピードで再生し、実際の肉声に近づけるため、音声の編集を行なったもので、実際のペロシ下院議員の演説はハキハキとした明瞭なものでした。

しかし、情報が拡散されてしまったため、ペロシ下院議員の元には多くの批判が寄せられたということです。

決してハイテクな編集とは言えないフェイク動画だったとしても、この類のフェイク動画が例えばアメリカの大統領選だったり、日本の衆議院選挙や参議院選の時期に公開されたとしたら、その動画が選挙の結果を大きく左右する可能性もあります。例えば、このような動画が拡散されたのが投票当日の朝で、投票に行く直前にこの動画を見てしまった人は自分が一票を投じる候補者を変更してしまうかもしれません。

悪用注意、誰もが気軽に映画スターになれるアプリ

AIやディープフェイク、なんて聞くと、高い技術力や知識が必要なように感じるかもしれませんが、最近は、誰でも手軽にフェイク動画が作れてしまうアプリケーションやウェブツールなども公開されています。

その中でも特に話題になったのが、中国発のAIを搭載したiOSアプリ「Zao」です。なんと、このアプリでは、簡単な操作で、スマホで撮影した自分の顔と人気の映画やドラマの登場人物の顔を入れ替えることができるというのです。

Zaoが公開されるとすぐさま大きな話題を呼び、中国のアプリストアの一位に躍り出たということですが、肖像権の問題などから賛否両論を巻き起こしました。

Zaoは、中国でのみダウンロードできますが、日本でもベンチャー企業がフェイク動画アプリを開発しています。そのアプリというのが「Xpression」というもの。

このアプリはZaoとは異なり、カメラに向かって様々な表情をすることで、動画内の人の顔が、ユーザーの表情と同じように動くというもの。

このアプリを使えば、冒頭で紹介したオバマ元大統領の演説動画のようなフェイク動画が簡単に作れるということです。

独自の表情読み込み技術を高く評価されたこのアプリは、今年9月に2.3億円の資金調達を行っており、今後の技術のアップデートや新たなサービス展開が予想されています。

ディープフェイクに対抗するために立ち上がるインターネットの巨人たち

手軽なディープフェイクツールが蔓延する一方で、ディープフェイクを見抜く技術も発達しています。

特にGoogleやFacebookといったIT界の巨人たちは、様々な対抗技術を専門とするチームを立ち上げています。

Facebook はマサチューセッツ工科大学と共同でディープフェイクを検出するためのオープンソースのツールを開発するためのプロジェクト「Deepfake Detection Challenge 」を発表していますし、 Google もディープフェイクを見抜くための技術向上に役立ててもらうためにこれまでに収集されたディープフェイクに関する膨大なデータをデータベースとしてまとめて無償で公開しています。

現時点ではディープフェイクツールと、それを見抜くツールのいたちごっこ状態となっていますが、この戦いが最終的にどちらの勝利で終わるのかによってインターネットの未来は大きく変わっていきそうな予感がしますね。

人の心を動かすディープフェイクと共に生きる未来

ここまで、ディープフェイクの負の側面を見てきましたが、ディープフェイク技術を活用して、これまでにない表現も生まれています。

例えば、今年、NHK で放映されたドキュメンタリー番組で、平成元年に亡くなった歌謡界の女王、美空ひばりをデータ上で再現するという取り組みが行われていました。彼女の歌声はAI技術を用いて再現し、さらに、CGで作成された美空ひばりさんの姿をかたどったインターフェイスも作成。

画面の中で蘇る歌手・美空ひばりの姿に多くの感動の声が集まりました。

このように良くも悪くも人の心を動かしてしまうディープフェイクは、今後、インターネット社会を生きる人々にとって、必要不可欠な知識になって行くと思います。

もしかしたら既に目にしているかもしれないディープフェイクとどう向き合って行くのか、一人一人がきちんと考えなくてはならないのかもしれませんね。テクノロジーの進化と共に生み出されてくる問題も巧妙化してきています。本当に信じられるのはオフラインの一次情報のみ、というのがあらゆる問題の結論、なのかもしれません。

【参考URL】
・Mapping the Deepfake Landscap　　
・ディープフェイクは見抜けるか、FacebookやGoogleが対抗プロジェクト　チープフェイクも登場　　
・スターになりきれる顔交換アプリ「ZAO」大ヒット後に大炎上。顔のデータを「永久に、取り消し不能」に奪われるおそれ　
・現実さながらのフェイク映像を簡単に作れる「Xpression」が2.3億円調達、次世代CG技術の開発加速へ　
・「本当にすごい」「感動した」──AIの美空ひばりが新曲披露、ネットで話題に

（大藤ヨシヲ）

メルマガ登録をしていただくと、記事やイベントなどの最新情報をお届けいたします。