今、ChatGPTのような生成AIが、社会に浸透しつつあります。しかし、その能力に驚かされる一方で、漠然とした不安を抱く人も多いのではないでしょうか。その不安の根底にあるのは、人間の思考では理解しがたいプロセスで結果を導き出すからかもしれません。ソフトウエア工学の分野で、人間とコンピュータの関係性について考え抜いてきた武庫川女子大学の鯵坂恒夫教授に、AIの本質、その捉え方、向き合い方について聞いていきます。

武庫川女子大学社会情報学部長・教授 情報教育研究センター長 工学博士 鯵坂 恒夫氏

言語を持たないAIは、人間とは全く異なる方法で意味を捉えている

―― 鯵坂先生は以前、『全体論と還元論』というコラムで、人間とコンピュータの違いについて述べられています。内容を簡単にご説明いただけますか。

コンピュータを動かしているプログラムは、基本法則で全ての説明がつく「還元論」的存在であるのに対して、人間は部分や要素に還元できない「全体論」的存在だということです。「コンピュータは絶対的、人間は相対的」と言い換えてもいいでしょう。プログラミング言語が絶対的言語であり、人間が話す自然言語は相対的言語ですから、両者には大きなギャップがあります。人間の絶対化はムリでも、コンピュータの相対化は叶えられそうな気がしますが、コンピュータは語彙を持たないので難しいでしょうね。

出所：Ajisaka, T. (2013). 全体論と還元論,Computer Software, 30(4), 4_85.

―― プログラムを自動生成するなど、AIは人間とコンピュータの仲介をしている面があります。AIは、コンピュータよりは人間に近い存在といえますか。

結論からいうと、人間とAIは全く違う存在であり、将来的にも合流することはないでしょう。というのも、AIは、人間のように言葉を理解していません。人間は文法と語彙を駆使しますが、生成AIは、単語の生起確率だけで文章を組み立てています。また、人間の言葉の背景には、意識や五感といった身体性があります。AIはすでに視覚や聴覚を持っているといえるかもしれませんが、視覚もビットパターンに落とし込んで判定するだけで、AIが出す結果は「値」でしかありません。意味の捉え方が、人間とは根本的に異なるのです。

―― 言語を解さないAIにとって意味は「値」でしかないとすると、大きな文脈で思考を捉えるパターンも人間とは違っているのでしょうか。

古くから人間が根差してきた思考方法として「一般化」というものがあります。これは、多数の事物を1つの概念、構造で説明しようとするものです。明瞭なゴールから、段階的にブレークダウンして、筋の通った「大きな物語」をつくるイメージでしょうか。これに対して、AIのアプローチは、多数の事物から頻出する代表的な事物を抽出する「典型化」です。「小さな物語」はいくらでも出てきますが、全貌を構造化することは到底できません。

大きな可能性を秘める、AIのボトムアップ的アプローチ

―― AIは「典型化」しかできないとすれば、使用するべき場面も限られてくるのでしょうか。

「一般化」はトップダウン、「典型化」はボトムアップと言い換えてもいいでしょう。実は「トップダウンで得られる一般原理は、出尽くしてしまった」という見方があります。例えば、人文学は紀元前5世紀、物理学は20世紀前半というように、新たな原理が次々に発見される時代があり、それ以降は目新しいものがないといわれています。

逆に、化学はボトムアップの学問です。もちろん仮説検証というプロセスは踏むのですが、「やってみた」「失敗した」という実験から、新しい発見がたくさん生まれています。AIは、これまで人間にはとてもできなかった、ボトムアップの探索力を持っています。膨大な量のデータ処理を高速で回す中から、新たな発見がどんどん生まれるでしょう。

―― ブルドーザーのように、ボトムアップ的アプローチで大量のデータをしらみつぶしにしていく。そのようなAIのユースケースとして、具体的にどのようなものが考えられるでしょうか。

創薬には間違いなく活用できるでしょう。人間もまたケミカルな存在で、結果からボトムアップで捉えるしかない面があります。例えば、薬効があることは分かっていても、なぜ効くのか分からないケースも多いのです。これまで、係数が多すぎて追うことができなかった問題も、AIの活用で答えが出てくるでしょう。

―― AIは、人間の代わりに考えるというよりは、あくまでボトムアップ的アプローチに使えるツールだと捉えられるでしょうか。

そうですね。もちろん、歴史上類を見ない大量処理が可能になるわけですから、そこから大きな物語が始まらないとも限りません。しかし、先に述べたように、AIと人間は意味の捉え方が全く異なるのですから、「協調」「共生」を考えるよりも、道具としていかに使うかを考えるべきだと私は思います。

思考停止をしてはいけない。「コピペの時代と変わらない」生成AIとの関わり方で気をつけたいこと

―― ChatGPTをはじめとした生成AIを道具として使うに当たって、注意すべき点はありますか。

私はいつも学生に、「教わることをうのみにするな、批判的思考を持て」と教えています。生成AIも同じです。アウトプットされた回答をそのまま受け取ってはいけない。生成AIは、インターネット上にある膨大なデータを集めて、アルゴリズムで返してきますから、何かしら偏りがあることは常に意識するべきです。具体的には、比較が欠かせないということです。プロンプトを変えてみるとか、紙の文献に当たってみるなどのプロセスを必ず入れるようにしないといけません。

これは、今まで「インターネットで検索したものを、そのままコピー ＆ ペーストしてはいけない」と言ってきたことと、本質的には何ら変わりません。著作権などの問題が出てくる点も同じです。ただ、生成AIはこれまでのインターネット検索より圧倒的に便利で、利用者の意図とアウトプットの利害関係が一致しやすいので、思考停止しやすいのです。

―― 生成AIを使う上で身に付けるべきスキルはどのようなものでしょうか。

確率的に文章を構成する生成AIに対して、どう聞けば上手く確率計算をしてくれるかという、「プロンプトエンジニアリング」は面白い観点です。ただ、一般の人が「スキル」というと、単なるノウハウのように表層の「効率的な方法」としか考えていないようで心配になります。確かにスキルはHowでしかありません。しかし、その前にWhatがあり、Whyがあるはずです。スキルのバックグラウンドにある本質を考えてほしいと思います。

生成AIの扱われ方によって、招きかねない「危険な未来」

―― 生成AIが普及することで生じるデメリット、危険性として、どのようなことが考えられますか。

私が懸念しているのは、AI的な言語の扱いがマジョリティーになって、人間の五感と言語能力で構成してきた「意味」が衰退していくことです。「意味なんて、コンピュータ的な値の切り分けでいいじゃないか」というような捉え方です。また、先ほど述べたような「ボトムアップでやってみて、結果がよければOKだ」というAI的発想がまん延することも危険だと思います。

人間らしい発想を持ち続けてこそ、コンピュータの優位に立つことができるのではないか。少なくとも、無為なものにならないのではないか。そういったことを真剣に考えなければならないと思います。

―― そのように人間的なものが衰退した未来では、AIが人間の敵になる可能性もあるでしょうか。

AIには、原理原則にもとづくトップダウンの考え方はできません。「値」としての意味があるだけで、理由も倫理観もないのです。「非倫理的なことはアウトプットしない」と、典型を示して学習させることはできますが、なぜそれが非倫理的なのか理解させることはできません。おかしな発想のアウトプットが出てきて、それが人間に影響を及ぼすことは今後起こりうるでしょう。

本質を理解しながら、AIもダイバーシティーを意識して発展を

―― 鯵坂先生は、『武庫川女子大学情報教育研究センター紀要』の巻頭言で、「筌者所以在魚 得魚而忘筌」に始まる漢文を挙げて、二千年以上も前に、荘子がAIの存在を言い当てていると書かれています。非常に興味深いお話でしたので、ここで改めてご紹介いただけますか。

「筌者所以在魚 得魚而忘筌」を訳すと、「筌は魚をとる仕かけであるから、魚が取れれば筌のことは忘れてしまう」。2行目も同じ構造で、「筌」が「蹄（兎用の罠）」、「魚」が「兎」に置き換えられます。そしてなんと3行目では、「筌」が「言」に、「魚」が「意」に置き換わるのです。「言葉は意味をいれるものだから、意味が分かれば言葉は忘れてしまう」というわけです。最後の4行目は「吾れいずくにかかの言を忘るるの人を得てこれと言わんかな」、言葉を忘れるという境地に達した人と「これだ」と言いたいと。

「これだ」というのは、当時では仙人のような人かもしれませんが、今でいえばAIでしょう。言語を使わず、理解せずに、「意味」とおぼしき判断を提示してくるという。意味があれば、言葉という器はいらないのではないか、AIの本質を言い表しています。

出所：鯵坂 恒夫. (2023). 情報からデータへ. 武庫川女子大学情報教育研究センター紀要 巻頭言. Bull. Institute for Educational Computing and Research, 30, i.

―― 前項ではAIの危険性についても語られましたが、本質を理解して深めていく人材が増えることで、AIと人間の未来は明るいものになっていくのではないでしょうか。

もちろんです。日本は情報系に弱いといわれますが、その一因は「みんな同じに、平等に」という均質指向の強さにもあるのではないかと、私は考えています。今、ダイバーシティーの必要性がさかんに叫ばれていますが、これは情報領域にも、AIの世界にも必要です。直接的なエビデンスがあるわけではないですが、データにせよ、情報にせよ、この領域への女性の参画はまだまだ少ない状況です。日本では特にその傾向が強い。

我田引水のようですが、そういう意味で私のいる武庫川女子大学がやろうとしている情報領域の教育には、非常に大きな意義があると思っています。情報の領域で、女性にいかに活躍してもらうかを考えていきたいですし、これからもアピールしていきたいですね。

―― ありがとうございました。

武庫川女子大学は、2019年に創立80周年を迎え、2039年の100周年に向けて『MUKOJO Vision 2019→2039』を策定しました。このビジョンは女性の一生を通じた活躍をサポートする教育を中心に、キャリアや人生の変化に対応し、特に人材育成のニーズが高い領域での教育を強化しています。2023年4月に設立された社会情報学部は、情報科学と社会学の統合を目指し、情報の実社会での活用方法を教授しています。鯵坂教授は、情報の社会的な役割とその活用の重要性を強調しています。また、『大学ランキング 2024』（朝日新聞出版）において、武庫川女子大学は「卒業生1000人以上2000人未満」のカテゴリーで12位にランクインしています。

 

鯵坂 恒夫（あじさか・つねお）氏
武庫川女子大学社会情報学部長・教授 情報教育研究センター長 工学博士

京都大学大学院工学研究科博士後期課程情報工学専攻を修了。和歌山大学教授、同大学工学自然科学系長を経て2021年より現職。情報工学領域ソフトウエア工学専門。
https://www.edusys.jp/mukogawa-u/tis/public/detail?id=11325&affiliation=70&page=1

 

（取材・TEXT：JBPRESS＋田口　PHOTO：倉本あかり 聞き手・企画・編集：野島光太郎）

メルマガ登録をしていただくと、記事やイベントなどの最新情報をお届けいたします。