ディープフェイクが「当たり前」の時代に求められる倫理観とは?大手SNSの動向も解説

Share!

故人をAIで再現するのはアリ?ナシ? AI 技術が手軽に活用できる時代に加速する議論

ディープフェイクなどの悪質な動画については、その存在が広がりつつある中で画一的な対応を取ることができますが、現在議論を巻き起こしているのは、冒頭のAI美空ひばりのように、イノベーションという文脈で、AIを活用して作られる動画や作品です。

AIを使って、著名人や著名グループの作品を新たに作り出すという試みは、数年前から活発に行われており、2016年には、ソニーコンピュータサイエンス研究所が開発したAIソフト「Flow Machines」を活用し、フランスの作曲家のブノワ・カレ氏が世界的ロックバンドであるビートルズの新曲を作成し発表しています。

この取り組みでは、作曲をAIが行い、歌詞は人間が作るという形で楽曲制作が行われ、「Daddy’s Car」という楽曲が作られました。この楽曲は、 AI技術を活用して作られた曲のみを収録したアルバム「Hello World」に収録されています。

さらに、2020年2月7日には、日本を代表する漫画家、手塚治虫氏を模したAIによる新作「ぱいどん」が雑誌「モーニング」に掲載されることが発表されました。

TEZUKA2020」と名付けられたこのプロジェクトを行うのは、キオクシア株式会社(旧東芝メモリ) 。このプロジェクトでは、手塚治虫作品のストーリーやキャラクター設定をAI に学習させ、その結果を人間がフィードバックし、漫画のストーリーやキャラクターの下地を作り上げ、それを基にクリエイターたちが漫画を書くことで、手塚作品を復活させるということです。

故人となった著名人をAI化する上で、特に議論が過熱するのが、(AIでの再現を)本人たちは喜ばないのではないか?という点です。故人の意思は確認しようがない中でのこのような議論は答えが出ないまま膠着状態になりつつあります。

故人がAI化されることは著名人に限らない?「わたし」のAI化に思いをはせることでとるべき態度が見えてくる

しかし、今後、このような問題は、著名人に限らず、多くの人に振りかかうるのではないか、と考えられます。

ディープフェイクの蔓延の背景には、技術力がなくても使える安価なディープフェイクツールが広がっていったことがあります。一方で作詞やストーリーの制作のように、自然言語処理に関わるコンテンツの制作は非常に難しく、現在も高い技術力が必要とされています。

技術が発達し、高い精度での自然言語処理が可能なソフトやアプリケーションが開発されれば、その流れは一気に変わります。

ほとんどの人が SNS を使うようになる中、 個人を AI で再現するために必要となる文章や画像、動画が非常に多くインターネットに残されてるため、「わたし」の死後、誰かがAIで「わたし」を作り出すことはそれほど難しくなくなる可能性があります。

ディープフェイクのその先に、精度の高い偽物の「わたし」がいるかも知れない。そんな未来を考えた上で故人のAI化について考えると、今後こうした動きに対してどのような態度をとっていくかを定めるヒントになるかもしれません。

【参考引用サイト】
・YouTube、選挙に関するディープフェイク動画などを削除へ 
・Enforcing Against Manipulated Media 
・米ツイッター、「ディープフェイク」投稿に警告ラベル 
・AI美空ひばりは冒涜?山下達郎発言、研究者と考えた 
・ 「AI手塚治虫」とクリエイターによる新作「ぱいどん」が講談社のモーニングに掲載決定 
・世界初の人工知能が作ったポップソング「Daddy’s Car」と「Mr Shadow」がYouTubeで公開中 
・ディープフェイクで人造したFacebookのザッカーバーグCEOが「データの支配」について語るムービーが話題に

(大藤ヨシヲ)

<< ディープフェイクについて大手 SNS は動き始めている?Facebook、Twitter、YouTube の動向を追う

1 2

Eye Catch Design by Go Uchida

関連記事

人気のカテゴリ