「一言で申し上げると、冒涜です。」

紅白で公開された国民的歌手であった故・美空ひばりさんのAIによる歌唱について、今、日本では様々な意見が飛び交っています。冒頭の言葉は、AI美空ひばりに対し、ラジオでファンから質問を受けた歌手の山下達郎氏のコメントです。このコメントを受けて、 SNS上ではAIへの倫理観についての議論がさらに加速していきました。

誰もがAIで画像を加工したり動画を作成したりできる今の時代に、私たちが持つべき倫理観とは何なのか、今まさに問われようとしています。そこで、今回は、ディープフェイクを含む、 AIを使って精巧に作られた画像や動画に対する議論や企業の対応について深掘りしていきます。

ディープフェイクについて大手 SNS は動き始めている？Facebook、Twitter、YouTube の動向を追う

AIを使って作成された偽動画や偽画像をディープフェイクと呼びます。本物と区別がつかない非常に高い精度で作られた動画や画像は、多くの人を騙し、誤った方向へと扇動する力を持ち得ます。

ディープフェイクが手軽に作れるようになる中、大手 SNS の中で先陣を切ったのが Facebookです。2020年1月6日に、 Facebookは、公にディープフェイクを禁止し、ディープフェイクを含む動画を削除するという方針を明らかにしました。

今回 Facebookにおいて削除対象となるメディアは以下の条件に当てはまるものです。

• 元々のビデオでは言われていなかった内容を話しているかのように、編集合成がなされたもの
• 人工知能や機械学習などを活用して、非常に精巧に作られて本物の動画であるかのように見えるもの

なお、風刺やパロディの文脈で作られたコンテンツや、元の動画を単純な編集でつなぎ合わせたコンテンツなどは今回の削除対象には含まれないということでした。

Facebook傘下にある Instagramでは過去に、 FacebookのCEOであるマーク・ザッカーバーグ氏がFacebookで集めたデータをコントロールでき、悪用をほのめかすような話をする、というディープフェイクが公開されましたが、この投稿について、 Facebookでは、ディープフェイクであることが明示されており風刺やパロディーの範疇に入るということで削除しない方針で固めています。

https://www.instagram.com/p/BypkGIvFfGZ/?utm_source=ig_web_copy_link

こうした動きに続くように同年の2月3日には動画プラットフォームである YouTube が選挙にまつわるディープフェイクをはじめとした偽情報について新たなポリシーを発表しました。 今後、選挙にまつわるディープフェイク動画については順次削除する方針だということです。

さらに翌日の2月4日には、アメリカにあるTwitter本社が今年の春以降、ディープフェイクコンテンツについて「操作されたメディア」という警告文を表示する方針を固めました。特に悪質なコンテンツについては削除するということで、大手SNS各社の足並みがそろいつつあります。

1 2