deep fake(ディープフェイク)とは?動画・映像作成アプリや悪用された実例を徹底解説! | データで越境者に寄り添うメディア データのじかん
会員ページへmember

About us データのじかんとは?

deep fake(ディープフェイク)とは?動画・映像作成アプリや悪用された実例を徹底解説!

ディープフェイクの基本から作成アプリ、悪用事例について解説しています。ディープフェイク技術の活用例と悪用問題を紹介し、有用性だけではなくリスクにも目を向けるべき理由を紹介しますので、ぜひ参考にしてください。

         

あるとき繁華街を歩いていると、ガラスの壁面いっぱいに数十人の顔写真が貼られたギャラリーに遭遇しました。添えられたキャプションによると、「これらはすべて作られた偽物の顔です。この人たちは実在しません」。

彼らの写真はディープフェイクを使用して生成されたものでした。ディープフェイクとは「ディープラーニング(深層学習)」を使って「フェイク(偽物)」の顔や表情を生成する技術です。微笑み、または憮然としている彼らの表情はとても自然で、まったく作り物には見えませんでした。

これだけ聞くと「映画やテレビドラマの製作に使用される技術でしょ、一般人には関係ない」と思うかもしれません。しかしディープフェイクはここ2年ほどで急激に進化を遂げており、比較的シンプルなツールでの作成が可能です。これに乗じて、ディープフェイク絡みの事件や話題が急増しています。

その実例を紹介しながら、ディープフェイクの最前線を探っていきましょう。

ディープフェイクとは

ディープフェイクとは

ディープフェイクは、前述した通り、「ディープラーニング(深層学習)」を使って「フェイク(偽物)」の顔や表情を生成する技術です。しかし、その概念は次第に広がり、現在では偽造動画を示す言葉としても使われることが多くなりました。

具体的には、ディープラーニングの技術を活用して、動画に映る人物の顔や表情、声を他の人のものに置き換えて、その人が実際には行っていない行動をさせたり、言っていない言葉を言わせたりします。

以前から、フォトショップなどの画像編集ソフトを使って写真の中の人物の顔を他人のものに変えることは行われてきましたが、AIの進化により、今では動画の中の人物の顔も変えられるようになってきました。

ディープフェイクでできることとは?

ディープフェイクでできること

本章ではディープフェイクでできることを紹介します。

  • 動画や映像
  • chat GPTによる対話
  • AIアナウンサー
  • モデル

順に紹介します。

①動画や映像

ディープフェイク技術は写真だけでなく、表情や声を合成した動画の作成にも使用できます。特に動画版のディープフェイクの標的になりやすいのが、政治家や芸能人などの著名人です。

2018年、アメリカのコメディアン、ジョルダン・ピールとヴァイラルメディアプラットフォームのBuzzFeedは、オバマ前大統領がトランプ現大統領を「完全な能なし」とディスるディープフェイク動画を作成しました。これがTwitterなどのSNSで拡散され、オバマ氏が実際にこのような発言をしたと勘違いする人が続出しました。

また、Facebook CEOザッカーバーグ氏も標的に。2019年5月、「当社の使命が人と人とを繋げることだと思ったら大間違いです。単に情報を集めてビジネスに利用したいだけです」とうっかり本音(?)を漏らすザッカーバーグ氏の映像が、Facebookに投稿されました。

これはFacebookがこの動画に対してどういう反応をするかを観察するアートプロジェクトで、当初からフェイクであると種明かしをされていました。

②教育

ディープフェイク技術は教育にも活用できます。

前述した動画や映像にも起因しますが、歴史上の人物だったり、仮想の人間だったりを作成し、話させることで実際の人間が喋ることなく教育ができる可能性があります。具体的には、アインシュタインが見つけ出した相対性理論を、本物のアインシュタインが話しているかのような形でディープフェイク技術を利用できるでしょう。

③AIアナウンサー

ディープフェイクでできることとして、AIアナウンサーが注目されています。ディープフェイクを活用したAIアナウンサーは、人間のアナウンサーを模倣し、リアルタイムでニュースを伝えることが可能です。

具体的な例として、中国国営メディアの新華社通信が開発したAIキャスターが挙げられ、人間のアナウンサーの声と表情、口調を学習し、リアルタイムでニュースを伝えているようです。AI技術によるものなので、24時間365日休みなく働くことができ、常に最新の情報を提供できることが強み。ニュース配信の効率化に加え、コストの削減が可能となるため、メディア業界では特に注目されている活用例と言えます。

④モデル

ディープフェイクでできることとして、モデルが挙げられます。ディープフェイクの技術を活用することで、複数の人間のパーツを合成し、架空の人間を作り出すことができます。

複数の人間のパーツを合成した上で、理想的なパーツがない場合でも、ディープフェイクの技術で思い通りに作り出すことも可能です。また、ディープフェイクで作成したモデルは、著作権や肖像権なども関係ないため、好きなように作成・活用ができます。

PCやスマホで利用できるおすすめのディープフェイク作成アプリ5選

ディープフェイク作成アプリ

PCやスマホで利用できるおすすめのディープフェイク作成アプリを紹介します。

  • Xpression
  • FaceApp
  • Online Deepfake Maker
  • Reface
  • Faceswap

順に紹介します。

①Xpression|画像1枚あるだけで好きなように動画が作れるスマホアプリ

「Xpression」というiOS対応アプリは、様々な顔の映像や写真を自在に操ることが可能です。スマホのカメラを利用して顔の動きを読み取り、その動きをリアルタイムで映像や画像の中の顔に反映できます。

例えば、自分の言いたいことを他人の動画に反映させたり、絵や彫刻に話をさせることも可能です。また、事前にスーツ姿で撮影した自分の映像を使って、実際にはパジャマ姿のままオンライン会議に参加するといった利用方法もあります。

②FaceApp|撮影した写真から性別や年齢を変更できる無料アプリ

Refaceというアプリは、自分の顔写真を撮影し、それを映像や写真の人物と入れ替えることができます。

入れ替え可能な映像や写真には、映画やドラマの名場面、様々な衣装を身にまとったファッションモデル、ポスターや雑誌のモデル、スポーツの試合など、多種多様な素材が用意されています。

特に映画の素材では、ハリー・ポッターやスパイダーマン、パイレーツ・オブ・カリビアン、マレフィセント、美女と野獣といった有名なシーンや、主演俳優・女優になりきる動画が提供されており、まるで自分が映画の中にいるかのような感覚を味わうことができます。さらに、世界各国の動画なども用意されていて、様々なシチュエーションで楽しむことも可能です。

③Online Deepfake Maker|本物のような精度の高い動画を作れるオンラインアプリ

Online Deepfake Makerは、AIを用いて本物のような顔の入れ替えが可能な顔の入れ替えに特化したオンラインツールです。精度は高く、一度見ただけではディープフェイクか本物か判断できないほどの顔入れ替え画像や動画の作成ができます。

また、オンラインツールであるため、パソコンの性能に左右されず、スペックが低いパソコンやスマートフォンからでも使うことができるという利点があります。ただし、変換に時間がかかることや、「1時間あたり3ドル」という少々特殊な料金設定により、実際の料金が分かりにくいという欠点も存在します。

④Reface| 写真をアニメーション化できる無料アプリ

Refaceは、自分の顔を撮影した後、それを映画やドラマのシーン、ファッションモデルの写真、スポーツの試合の映像など、様々な動画や画像に合成できるアプリです。

映画のシーンにはFaceAppと同様、ハリー・ポッターやスパイダーマン、パイレーツ・オブ・カリビアン、マレフィセント、美女と野獣といった有名な場面が含まれており、自分がその映画のキャラクターになったかのような体験ができます。さらに、世界各国の動画も利用できるため、様々なシチュエーションで楽しめます。

⑤Faceswap|WindowsとMac、Linuxに対応したオープンソースの無料アプリ

Faceswapは、Windows・Mac・Linuxの各種OSに対応した無料のディープフェイク作成アプリで、オープンソースという特性を活かして高品質なディープフェイク映像を作り出せます。公式サイトは英語表記ですが、使い方を詳しく説明した動画も提供されているため、それを参考にしながら使用すれば問題ありません。

ただし、ディープフェイク映像の作成には高性能なPCが必要となります。そのため、性能の高いCPUやGPUが必要となり、それらを搭載していないPCでは利用が難しいという欠点も存在します。

ディープフェイクの悪用問題とは?

前章では、ディープフェイク作成アプリを紹介しましたが、本章ではディープフェイクの悪用問題について解説します。

  • イギリスのフリーランス記者として活躍する24歳の大学生
  • ウクライナののウォロディミル・ゼレンスキー大統領
  • フェイクポルノ

悪用事例として上記の3つを取り上げますので、ぜひ参考にしてください。

悪用事例①イギリスのフリーランス記者として活躍する24歳の大学生

ディープフェイクを巡って話題となったのは、イギリス・バーミンガム大学に通うオリバー・テイラーという24歳の学生。(画像はこちら)テイラーはユダヤ系の家庭に生まれ、政治に強い関心を持っており、過去にイスラエルの新聞に何本かオピニオン記事を寄稿したことがあります。

テイラーは米国のユダヤ系新聞「アルゲマイナー」に寄稿した記事の中で、ロンドン在住の研究者マスリ氏とその妻を「テロリストのシンパ」と糾弾しました。それを知ったマスリ氏は驚いてテイラーの素性を洗い始め、その中でテイラーの顔写真に行き当たります。

肌の質感が24歳にしては老けていますが、それ以外は普通の若者の写真に見えます。しかしマスリ氏はこの写真に言い表しがたい「ズレ」を感じたそうです。そこでロイターにこの件を持ち込み調査を依頼。ロイターはバーミンガム大学にテイラーの在籍確認を行いましたが、大学からの回答は「該当する学生はいない」でした。

さらには6人の虚偽画像判定の専門家がテイラーの写真を「ディープフェイクで生成されたことが確実」と判定しました。

ロイターからの通報を受け、何紙かはテイラーの記事を削除しました。するとテイラーから抗議のeメールが届きましたが、彼が新聞社の身元確認依頼に応じることはありませんでした。

つまりテイラーは、虚偽の顔写真やプロフィールをでっちあげて作成された、別人のアバターだったのです

悪用事例②ウクライナのウォロディミル・ゼレンスキー大統領

ディープフェイクの2つ目の悪用事例として紹介するのは、ウクライナのウォロディミル・ゼレンスキー大統領のディープフェイク動画です。

上記の動画は、2022年の3月16日にFacebookとYouTubeに投稿された約1分程度の動画で、ゼレンスキー大統領がウクライナ軍に武器を置くように呼びかけ、ロシアへの降伏を発表しているかのように見せかけています。

実際に見てもらうとわかる通り、違和感はあるものの信じてしまう人がいてもおかしくないくらいクオリティが高い動画が何者かに投稿されていたようです。

上記の動画が公開された直後、ゼレンスキー大統領自身が動画の内容を否定したことや動画が即削除されたことで、大きな問題にはならなかったものの、同じようなディープフェイク動画が再度投稿される可能性は高いと言えるでしょう。

悪用事例③フェイクポルノ

3つ目に紹介するディープフェイクの悪用事例は、フェイクポルノです。

フェイクポルノとは、ポルノ動画に登場する人物の顔だけを別人と差し替えた動画を指し、海外だけではなく日本でも多数制作・拡散されていることから、問題視されています。

フェイクポルノの作成や拡散に関係してしまった場合、下記のような罪に問われる可能性があります。

  • 名誉毀損罪
  • 著作権法違反
  • わいせつ物頒布等罪

フェイクポルノ動画でなくても罪に問われる可能性があるので、必ず本人の了承を得るか、自分の顔・体を使用して、ディープフェイク動画を作成しましょう。

ディープフェイク動画の作成方法

ディープフェイク動画の作成方法

こうしたディープフェイク映像の多くは、ターゲットの声や動作のモノマネをターゲットの顔に貼り付けた後、AIアルゴリズムを使って「顔移植」の痕跡を消していくことで作成されます。

具体的には、2人の人物の顔の何千枚もの顔写真をジェネレーティブ(生成)ネットワークと呼ばれるAIアルゴリズムに取り込みます。このネットワークは両者の類似性を学習し、共通する表情から新しいイメージを生成します。生成された表情を投影対象に流し込んだら、次にディスクリミネーティブ(判別)ネットワークと呼ばれる第二のAIアルゴリズムに、元の映像と比べて表情が自然かどうかを判定させます。

これを繰り返すことで、最終的には判別ネットワークが真贋を判別できないほど自然になります。

ディープフェイクを見破る方法

ディープフェイクを見破る方法

しかし人間の目というのは優秀で、AIには判別できない小さな違和感をキャッチできます。専門家によると、ディープフェイクには以下のような特徴があります。

・まばたきをしない。ディープフェイク生成に使用されるのが通常目を開いた状態の顔写真であるため。

・髪の毛、特に前髪の縁が不自然なぼやけ方をする。一方の顔に前髪があり、もう一方にない場合、合成時にギャップが生じるため。

・歯が不自然な光り方をする。合成前の2種類の画像の照明環境が異なる場合、合成時にギャップが生じるため。

2019年12月には、Microsoft, Facebook and Amazonの後援の下、ディープフェイク検出に向けた研究がスタートしました。ただし弱点が見つかる度にそれを克服する技術が開発され、ディープフェイクの精度には日増しに磨きがかかっています。他の多くの犯罪と同様、永遠に終わらないいたちごっこのようです。

終わりに

ディープフェイクまとめ

巧妙になるディープフェイク技術に乗じて、犯罪などの証拠を「あれはディープフェイクだ」と主張して覆そうとするケースも。例えば未成年への性犯罪が問題になった英国のアンドリュー王子は、BBCのインタビューで被害者が撮ったとされる証拠写真は信憑性に欠ける、と述べました。

2016年の大統領選直前に過去の女性蔑視発言の録音が流出したトランプ米大統領は、一度は自身の発言を認めたものの、私的な場で音声が偽物であると主張しました。(他多数のスキャンダルにも関わらず、トランプ大統領は民主党のヒラリー議員を下して大統領に就任しましたが。)

作る側、見抜く側、濫用する側。ディープフェイクをめぐる三つ巴の戦いはこれからも激しさを増していくでしょう。印象操作に流されず、常に情報の出どころに目を光らせておくことが、戦いの審判である私たちの役目と言えるかもしれません。

(佐藤ちひろ)

 

参照元

データ活用 Data utilization テクノロジー technology 社会 society ビジネス business ライフ life 特集 Special feature

関連記事Related article

書評記事Book-review

データのじかん公式InstagramInstagram

データのじかん公式Instagram

30秒で理解!インフォグラフィックや動画で解説!フォローして『1日1記事』インプットしよう!

おすすめ記事Recommended articles

データのじかん会員なら、
全てのコンテンツが
見放題・ダウンロードし放題
 

 データのじかんメール会員でできること

  • 会員限定資料がすべてダウンロードできる
  • セミナー開催を優先告知
  • 厳選情報をメルマガで確認
 
データのじかん会員について詳しく知りたい方
close close