ディープフェイク動画の作成方法

こうしたディープフェイク映像の多くは、ターゲットの声や動作のモノマネをターゲットの顔に貼り付けた後、AIアルゴリズムを使って「顔移植」の痕跡を消していくことで作成されます。

具体的には、2人の人物の顔の何千枚もの顔写真をジェネレーティブ（生成）ネットワークと呼ばれるAIアルゴリズムに取り込みます。このネットワークは両者の類似性を学習し、共通する表情から新しいイメージを生成します。生成された表情を投影対象に流し込んだら、次にディスクリミネーティブ（判別）ネットワークと呼ばれる第二のAIアルゴリズムに、元の映像と比べて表情が自然かどうかを判定させます。

これを繰り返すことで、最終的には判別ネットワークが真贋を判別できないほど自然になります。

ディープフェイクを見破る方法 

しかし人間の目というのは優秀で、AIには判別できない小さな違和感をキャッチできます。専門家によると、ディープフェイクには以下のような特徴があります。

・まばたきをしない。ディープフェイク生成に使用されるのが通常目を開いた状態の顔写真であるため。

・髪の毛、特に前髪の縁が不自然なぼやけ方をする。一方の顔に前髪があり、もう一方にない場合、合成時にギャップが生じるため。

・歯が不自然な光り方をする。合成前の2種類の画像の照明環境が異なる場合、合成時にギャップが生じるため。

2019年12月には、Microsoft, Facebook and Amazonの後援の下、ディープフェイク検出に向けた研究がスタートしました。ただし弱点が見つかる度にそれを克服する技術が開発され、ディープフェイクの精度には日増しに磨きがかかっています。他の多くの犯罪と同様、永遠に終わらないいたちごっこのようです。

ディープフェイクを濫用する人たち

巧妙になるディープフェイク技術に乗じて、犯罪などの証拠を「あれはディープフェイクだ」と主張して覆そうとするケースも。例えば未成年への性犯罪が問題になった英国のアンドリュー王子は、BBCのインタビューで被害者が撮ったとされる証拠写真は信憑性に欠ける、と述べました。

2016年の大統領選直前に過去の女性蔑視発言の録音が流出したトランプ米大統領は、一度は自身の発言を認めたものの、私的な場で音声が偽物であると主張しました。（他多数のスキャンダルにも関わらず、トランプ大統領は民主党のヒラリー議員を下して大統領に就任しましたが。）

作る側、見抜く側、濫用する側。ディープフェイクをめぐる三つ巴の戦いはこれからも激しさを増していくでしょう。印象操作に流されず、常に情報の出どころに目を光らせておくことが、戦いの審判である私たちの役目と言えるかもしれません。

【参考リンク】
・What are deepfakes – and how can you spot them? 
・アングル：ディープフェイク最前線、「実在しない記者」暗躍か　 
・10 deepfake examples that terrified and amused the internet

（佐藤ちひろ）

1 2