サルくん

今回からAGIの話という事ですね。ただ、以前からのボクの質問”なぜOpenAIが公開したSoraの資料のタイトルにworld simulatorsという、ずいぶんとおおげさな言葉があるのか”の説明が未だにありませんよ

　チクタク先生

大変失礼しました。なかなか説明できなかったのは、私が当初考えていた理由より深い意味があったことに気が付いたからです。ただ、これを説明するためには”世界モデル（world model）”を理解する必要があります。図を参考にしてください

　チクタク先生

前回も説明しましたが、人間は世界に存在する膨大な情報や事象をすべて把握しているわけではありません。眼や耳など五感から得られた情報や体験だけから、外界・世界をモデル化することで認識しています

　サルくん

モデル化とはなんですか？

　チクタク先生

現実世界をまねて、その構造や関係性を単純化し、全体を把握することです

　サルくん

余計に分かりづらいですが

　チクタク先生

ようするに大雑把にとらえることですよ。そして何度も似たような経験を積むことによって、そのモデルの精度は向上していきます。これは人工知能入門や動画生成ＡＩの講義で説明した、オートエンコーダーの特徴量の抽出と同じような仕組みです。
獲得した特徴表現は、生データと比べてはるかに低次元のベクトルに圧縮されます。これにより記憶容量は大幅に減らせて、推論や予測ができるようになるのです

　サルくん

例えば？

　チクタク先生

日中なのに急に暗くなったのは今から雨が降るからだな、のようなある出来事の要因を自分の知識・経験の範囲内から推測できるようになります

　サルくん

そうか。だから江戸時代では、晴天なのに雨が降ってきたら”狐の嫁入り”だと思ったのか

　チクタク先生

よくそんな古いことわざを知っていますね。ただそのことわざは、以前ナラティブの講義で話があった”認知バイアス”が主たる原因です。つまり、人間は理由が分からない珍しい事象があった場合、根拠がない話でも勝手に因果関係を結んでしまう、というクセがあるのです

　サルくん

そういえば、そんな講義を聞きましたね。子供の時、明るい外から急に人気のない暗い室内に入ると、ザワザワと黒い影たちが部屋の隅に逃げ込むのが見えても、マックロクロスケがいたんだな、と納得するようなことですね

　チクタク先生

話を逸らさないでください。とにかく人間は脳内に世界モデルを構築することで、初めての出来事でもその原因を推測したり、ある程度の予測をすることができるようになります。したがってもし人工知能が、この世界モデルを構築出来たら、予測や推測ができるようになり、フレーム問題が解決できるのではないか、という話ですね

　サルくん

フレーム問題って、なんでしたっけ？忘れたのですが・・

　チクタク先生

肝心なことは忘れないでください。フレーム問題とは、AIが本来問題解決には必要のない背景まで考慮して計算し続けてしまい、情報処理能力を超えて機能が停止する問題のことです

　サルくん

そうでした。ロボットが時限爆弾を仕掛けられた洞窟から貴重品を取りに行こうとしたら、余計なことを考えすぎて爆発してしまった話でしたね

　チクタク先生

まぁ、だいたいそんなところです。とにかく、フレーム問題はAIが世界モデルを獲得できれば解決しそうです

　サルくん

どうしてですか？AIの計算時間の話と世界モデルの関係は？

　チクタク先生

フレーム問題はAIの計算時間だけが問題ではなく、考える優先順位の問題のはずです。考える優先順位の分からないロボットは、洞窟に入る前に洞窟の中にある時限爆弾とバッテリーの、どちらを先に動かすべきなのか、もし洞窟の天井が落ちてきたらどうするのか、などとあらゆる可能性の検討を始めるので間に合わないのです。
与えられたミッションを実行する際に、可能性が非常に低いことを最初から排除すれば、判断が早くなり解決します。ようするに”常識”があれば”杞憂”などしないのです

　サルくん

おや、先生こそ杞憂などという古い言葉をよく使いましたね。来歴が中国の故事では若者に通じませんよ

　チクタク先生

天が崩れ落ちてこないか、という取り越し苦労は、それこそフレーム問題の解説にマッチした言葉なので使ったまでです。
話を戻すと、AIにどうやって世界モデルを持たせるかですが、ここでやっと”ワールドシミュレータ“につながります。前回の動画生成AI Soraの講義の中で、” 人間が体験や経験によって得られる常識を、AIは膨大な量の動画から得ることができるようになったようだ“と話しましたね。AGIを開発する際に難関だった、AIに人間の常識を獲得させる方法として、膨大な量の動画を学習させることが有効のようだ、という話です。
ただし、自己教師あり学習をするだけで、なぜ直接学んでない情報までAIが理解して、様々な生成ができるようになるのかは、まだ研究中です

　サルくん

なるほど、AGIの前振りとしては長かったのですが。で、本題のAGIが誕生しそうだという話を聞かせてください

　チクタク先生

この”AGIが2027年に登場する”というセンセーショナルな話を理解するには、世界モデルを知る必要があるので、今まで長々と話をしてきました。ではここで、OpenAIの研究員が退職して書いたレポートの概要を話しましょう。165ページあるレポート（註1）全体の構成は以下になります

　チクタク先生

3章以降は、アメリカ人である筆者が人類の未来に強い危機感を訴えている熱のある内容なのですが、今回は１・2章の技術的な部分に限定して説明します

　サルくん

政治的な話や人類の未来なんかも面白そうですよ

　チクタク先生

この部分は非常に興味深い話なのですが、時間がかかるので別途話します。最初はAIの驚異的進化になります

　チクタク先生

”未来を最初に垣間見ることができるのは、サンフランシスコだ”という書き出しで始まるこのレポートは、エッセイのように書かれています。サンフランシスコでは空前のAIＡＩブームに沸き立っており、なんと日本の国家予算をも超える150兆円の資金（註2）がＡＩ関連業界に流れ込んでいると報じられています。だから”サンフランシスコでは歴史が動いている”のような想いを、当事者たちは感じているのでしょう。ソフトバンクがAIに10兆円も投資（註3）すると、日本では驚かれていますが、アメリカではさらに桁違いの大きな金が動いているのです。日本にいると、アメリカでのAIへの熱狂はまったく気が付きませんね

　サルくん

ボクらには想像もできない金額の話ばかりですが、肝心の中身は？

　チクタク先生

失礼しました。レポートの冒頭からとんでもない話でしたので。
では、1章ですが、ここは私も以前から話しているAI進化の話です。GPT-２の登場からGPT-4までは4年程度ですが、この間に「未就学児」レベルから「優秀な高校生」レベルへとAIは劇的に進化しています。簡単な作文しかできなかった子供が、わずか4年で難関大学に入学し、大学院まで進めるほど育ったのですから、想定外の進化であることは確かです

　サルくん

ずいぶんと定性的な表現ですね

　チクタク先生

ここは省きましたが、知的能力を測る様々なベンチマークをGPTはクリアしており、今では人間でもトップクラスの成績を収めるまでになっています。それどころか、現在最も難しいベンチマークは博士課程レベルの生物学、化学、物理学の質問を集めたGPQA（註4）なのですが、このテストでも約60%の正答率を達成しているモデルもあります。
実は、これ以上難しいベンチマークは存在していないので、AIの進化がこのまま進んでも、その知的水準を定量的に測定できないほどになっているのです

　サルくん

この講座で驚異的なAI進化の話を何度も聞いていますが、聞くたびに驚かされますね。それにしても研究者でも想定外の進化速度なんですか？

　チクタク先生

ここまでの進化速度は、誰も予測していないはずです。レポートではこの桁違いの進化速度の原因には、次の３つの要因があると分析していました

　チクタク先生

これらの様々な方策や手法を駆使することで、最新のAIは桁違いの性能を獲得してきたのです。ただ注意してもらいたいのは、これは第１章で40ページある様々なエビデンスを添えたレポートの内容を、私が理解しやすいように400文字まで要約したものです。したがって詳細な情報の大部分はカットされています。詳しい説明やエビデンスは、オリジナルのレポートで確認ください

　サルくん

まぁ質問は山ほどありますが、生成AIがこのままのスピードで進化を続けると、AGIになるという話なのですか？

　チクタク先生

話はそれほど単純でもありませんが、残念ながら時間となったので、次回の講座で説明します