わたしたちは日々AIによってパーソナライズされた情報に触れています。

例えば、SNSでいいねした投稿、今日見た動画、おすすめで出てきて思わず買ってしまったものなど……。それらが積み重なって、わたしたちの行動や生活は少しずつ変化していきます。

手軽で便利なAIによる情報の選別。しかし、そこには常にリスクがあります。そして、そんなリスクの一つである「AIの判定における偏見」を提示するのが、Netflixで公開されているドキュメンタリー映画『AIに潜む偏見: 人工知能における公平とは』です。

白い仮面が暴くAIの不都合な事実

疑念の始まりは「元気が出る鏡」でした。

MITメディア・ラボのジョイ・ブオラムウィーニは、授業の一環で、鏡に映る姿を自分の望むように変え、人々をエンパワーする鏡を作ろうとしたのです。しかし、顔認識のためのソフトを組み込んだとき、あることに気づきます。ソフトはジョイの顔を認識しなかったのです。そこで白い仮面を装着してみるときちんと顔が認識されました。生身の人間と無機質な白い仮面、その差は歴然にも関わらず、ソフトはなぜか後者を人の顔と判断しました。

ジョイは気付きます。この不可思議な現象の原因は彼女が女性で黒人であることなのではないかと。

そこでジョイがソフトの教師データとなった人々の顔写真を見てみると、そのほとんどが白人男性だったのです。疑念は確信に変わり、彼女を突き動かします。

AIが人生を変えてしまう。偏見を組み込んだAIが公的機関に使われるとき

もっとも懲罰的で侵略的な監視重視のツールはまず貧困層や労働者層に届く
『AIに潜む偏見: 人工知能における公平とは』

ジョイがAIの偏見についての研究を進める一方、アメリカ国内では、治安維持を目的に警察によって街路に顔認識システムが導入されるようになります。

しかし、顔認識システムは一定の確率で誤認識を起こします。そこで、未成熟にも思えるAIを公的機関が活用することに疑念を持つ人々が顔認識システムに反対する人権団体を設立。AIが人々を監視する様子を監視するようになります。すると学生服姿の黒人の少年が顔認識システムに引っかかり、警察に呼び止められます。聴取や指紋採取を経て、誤認識であるとわかりましたが、少年は震え、動揺を隠せません。

このように、AIが広く使われる中で、AIが含む偏見による歪さがあらゆるところで噴出していきます。例えば、クレジットカードの限度額。夫婦で口座も財産も共有しているにも関わらず、夫の限度額が妻の10倍だったこと。例えば、企業の採用システム。企業が採用したシステムが、女性候補者を書類の時点で一人残らず不採用にしたこと。例えば、裁判所のリスク判定システム。一度罪を犯した人の再犯リスクを判定するシステムで黒人はスコアが高く、白人は低いこと。

偏見を含むAIは常に強者に有利に、弱者に不利に動くのです。

偏見の仕組みはブラックボックス

この問題の難しさの一つがAIが偏見を取り込む仕組みが不可視化されているということです。機械学習において、データがインプットされ、結果が出るまでの過程は定式化したり説明したりできるものではありません。

したがって、入力されたデータからなぜその結果が出たのか、を十分に説明できる人はいません。つまり、結果に対して責任の所在が不明なのです。結果に責任を取れる人がいない状態で人々の人生を変えるような決断が次々となされている可能性があるのです。

そうした実態とは裏腹に多くの人にとって、機械によって自動で出された結果は、人が決めるよりなんとなく公正な気がするもの。その結果、機械による判断だから、という理由で、今以上に偏見が跋扈する恐れも否定できません。

AIが世界を変えてしまう。おすすめが行動を操作する

2020年、Facebookが発表したある検証が人々に衝撃を与えました。「今日は投票日です」という通知に投票に行った友人のアイコンを小さく表示したというその検証により、なんと選挙に行った人が30万人増加したそうです。2016年の大統領選挙では10万票差で結果が決まりました。

つまり、たった一つの通知が大統領選挙の結果を変えた人数の三倍の人数を動かしたのです。通知のちょっとした変化によって国の未来が大きく変わってしまうかもしれないのです。その脅威は計り知れません。

機械を使うのは人間であるということ

冒頭で紹介したジョイはその後、AIにおける偏見についての研究に取り組みます。その結果、AIによる偏見の危険性を明らかにすることができました。彼女の研究は新聞の一面に取り上げられ、顔認識システムを売るビッグテック企業を困惑させるとともに、同じ課題を持った多くの人に届きました。彼女たちはすぐに解決するべき共有の課題として、警察によって、市民に無許可で街路に設置された顔認識システムについて取り組むことになります。

彼女たちの行き着く先にどのような結果が待ち受けているか、ぜひ作品を見てみてください。

今作では、AIという、人々の生活の基盤になりつつあるもののリスクを提示するとともに、そこに対し疑念を突きつける生身の人々の強さを教えてくれます。

機械はあくまで道具でしかありません。人間がよりよく生きるためにどのようにそれらを使うのか、をあらためて考えるきっかけを、今作は与えてくれます。興味のある方はぜひ一度視聴してみてください。

【出典】
・AIに潜む偏見: 人工知能における公平とは | Netflix

（大藤ヨシヲ）