登場人物
大学講師の知久卓泉(ちくたくみ)
眼鏡っ娘キャラでプライバシーは一切明かさない。
サルくん
軽薄で口が達者だが怜悧な頭脳を持つ大学院生。
世界モデルとは
サルくん
今回からAGIの話という事ですね。ただ、以前からのボクの質問”なぜOpenAIが公開したSoraの資料のタイトルにworld simulatorsという、ずいぶんとおおげさな言葉があるのか”の説明が未だにありませんよ
チクタク先生
大変失礼しました。なかなか説明できなかったのは、私が当初考えていた理由より深い意味があったことに気が付いたからです。ただ、これを説明するためには”世界モデル(world model)”を理解する必要があります。図を参考にしてください
※図版・筆者作成「世界モデルとは」
チクタク先生
前回も説明しましたが、人間は世界に存在する膨大な情報や事象をすべて把握しているわけではありません。眼や耳など五感から得られた情報や体験だけから、外界・世界をモデル化することで認識しています
サルくん
チクタク先生
現実世界をまねて、その構造や関係性を単純化し、全体を把握することです
サルくん
チクタク先生
ようするに大雑把にとらえることですよ。そして何度も似たような経験を積むことによって、そのモデルの精度は向上していきます。これは人工知能入門や動画生成AIの講義で説明した、オートエンコーダーの特徴量の抽出と同じような仕組みです。獲得した特徴表現は、生データと比べてはるかに低次元のベクトルに圧縮されます。これにより記憶容量は大幅に減らせて、推論や予測ができるようになるのです
サルくん
チクタク先生
日中なのに急に暗くなったのは今から雨が降るからだな、のようなある出来事の要因を自分の知識・経験の範囲内から推測できるようになります
サルくん
そうか。だから江戸時代では、晴天なのに雨が降ってきたら”狐の嫁入り”だと思ったのか
チクタク先生
よくそんな古いことわざを知っていますね。ただそのことわざは、以前ナラティブの講義で話があった”認知バイアス”が主たる原因です。つまり、人間は理由が分からない珍しい事象があった場合、根拠がない話でも勝手に因果関係を結んでしまう、というクゼがあるのです
サルくん
そういえば、そんな講義を聞きましたね。子供の時、明るい外から急に人気のない暗い室内に入ると、ザワザワと黒い影たちが部屋の隅に逃げ込むのが見えても、マックロクロスケがいたんだな、と納得するようなことですね
チクタク先生
話を逸らさないでください。とにかく人間は脳内に世界モデルを構築することで、初めての出来事でもその原因を推測したり、ある程度の予測をすることができるようになります。したがってもし人工知能が、この世界モデルを構築出来たら、予測や推測ができるようになり、フレーム問題が解決できるのではないか、という話ですね
サルくん
フレーム問題って、なんでしたっけ?忘れたのですが・・
チクタク先生
肝心なことは忘れないでください。フレーム問題とは、AIが本来問題解決には必要のない背景まで考慮して計算し続けてしまい、情報処理能力を超えて機能が停止する問題のことです
サルくん
そうでした。ロボットが時限爆弾を仕掛けられた洞窟から貴重品を取りに行こうとしたら、余計なことを考えすぎて爆発してしまった話でしたね
チクタク先生
まぁ、だいたいそんなところです。とにかく、フレーム問題はAIが世界モデルを獲得できれば解決しそうです
サルくん
どうしてですか?AIの計算時間の話と世界モデルの関係は?
チクタク先生
フレーム問題はAIの計算時間だけが問題ではなく、考える優先順位の問題のはずです。考える優先順位の分からないロボットは、洞窟に入る前に洞窟の中にある時限爆弾とバッテリーの、どちらを先に動かすべきなのか、もし洞窟の天井が落ちてきたらどうするのか、などとあらゆる可能性の検討を始めるので間に合わないのです。与えられたミッションを実行する際に、可能性が非常に低いことを最初から排除すれば、判断が早くなり解決します。ようするに”常識”があれば”杞憂”などしないのです
サルくん
おや、先生こそ杞憂などという古い言葉をよく使いましたね。来歴が中国の故事では若者に通じませんよ
チクタク先生
天が崩れ落ちてこないか、という取り越し苦労は、それこそフレーム問題の解説にマッチした言葉なので使ったまでです。話を戻すと、AIにどうやって世界モデルを持たせるかですが、ここでやっと”ワールドシミュレータ“につながります。前回の動画生成AI Soraの講義の中で、” 人間が体験や経験によって得られる常識を、AIは膨大な量の動画から得ることができるようになったようだ“と話しましたね。AGIを開発する際に難関だった、AIに人間の常識を獲得させる方法として、膨大な量の動画を学習させることが有効のようだ、という話です。ただし、自己教師あり学習をするだけで、なぜ直接学んでない情報までAIが理解して、様々な生成ができるようになるのかは、まだ研究中です
サルくん
なるほど、AGIの前振りとしては長かったのですが。で、本題のAGIが誕生しそうだという話を聞かせてください
桁違いに進化していくAIの秘密
チクタク先生
この”AGIが2027年に登場する”というセンセーショナルな話を理解するには、世界モデルを知る必要があるので、今まで長々と話をしてきました。ではここで、OpenAIの研究員が退職して書いたレポートの概要を話しましょう。165ページあるレポート(註1)全体の構成は以下になります
全体構成
1.AGI 到達までのカウントダウン -ムーアの法則を超えるAIの進化–
2.知能爆発:人類を超越するAIの誕生
3.AI開発競争:アメリカ vs 中国
4.「プロジェクト」:政府主導によるAGI開発の必然性
5.人類の未来:超知能との共存に向けて
6.全体まとめ:超知能時代 – 人類の未来をかけた挑戦
チクタク先生
3章以降は、アメリカ人である筆者が人類の未来に強い危機感を訴えている熱のある内容なのですが、今回は1・2章の技術的な部分に限定して説明します
サルくん
チクタク先生
この部分は非常に興味深い話なのですが、時間がかかるので別途話します。最初はAIの驚異的進化になります
チクタク先生
”未来を最初に垣間見ることができるのは、サンフランシスコだ”という書き出しで始まるこのレポートは、エッセイのように書かれています。サンフランシスコでは空前のAIAIブームに沸き立っており、なんと日本の国家予算をも超える150兆円の資金(註2)がAI関連業界に流れ込んでいると報じられています。だから”サンフランシスコでは歴史が動いている”のような想いを、当事者たちは感じているのでしょう。ソフトバンクがAIに10兆円も投資(註3)すると、日本では驚かれていますが、アメリカではさらに桁違いの大きな金が動いているのです。日本にいると、アメリカでのAIへの熱狂はまったく気が付きませんね
サルくん
ボクらには想像もできない金額の話ばかりですが、肝心の中身は?
チクタク先生
失礼しました。レポートの冒頭からとんでもない話でしたので。では、1章ですが、ここは私も以前から話しているAI進化の話です。GPT-2の登場からGPT-4までは4年程度ですが、この間に「未就学児」レベルから「優秀な高校生」レベルへとAIは劇的に進化しています。簡単な作文しかできなかった子供が、わずか4年で難関大学に入学し、大学院まで進めるほど育ったのですから、想定外の進化であることは確かです
サルくん
チクタク先生
ここは省きましたが、知的能力を測る様々なベンチマークをGPTはクリアしており、今では人間でもトップクラスの成績を収めるまでになっています。それどころか、現在最も難しいベンチマークは博士課程レベルの生物学、化学、物理学の質問を集めたGPQA(註4)なのですが、このテストでも約60%の正答率を達成しているモデルもあります。実は、これ以上難しいベンチマークは存在していないので、AIの進化がこのまま進んでも、その知的水準を定量的に測定できないほどになっているのです
サルくん
この講座で驚異的なAI進化の話を何度も聞いていますが、聞くたびに驚かされますね。それにしても研究者でも想定外の進化速度なんですか?
チクタク先生
ここまでの進化速度は、誰も予測していないはずです。レポートではこの桁違いの進化速度の原因には、次の3つの要因があると分析していました
AIの「桁違いの進化」の3つの要因
1.計算能力: GPT-4の学習にはGPT-2の約3,000倍から10,000倍の計算能力が使用されている。これは主に投資額の増大によるもので、最先端のAIシステムの学習に使用される計算能力は、年間約0.5桁のペースで増加してきている。
2.アルゴリズム効率:アルゴリズムは日々改良され続けている。より優れたアルゴリズムを用いることで、学習に必要な計算能力を10分の1に抑えながら、同等の性能を実現できるのだ。この2年足らずで推論効率は、約3桁(1,000倍)向上している。
3.「束縛からの解放」による向上:人間なら計算する時に、電卓やPCなどのツールが無かったら非常に苦労する。また短時間記憶しかできず長時間記憶ができないとか、ステップバイステップの思考方法ができないと、せっかくの知的能力を発揮できないはずだ。AIにも人間が利用できるツールや長期記憶能力、思考方法を与えたり、人間からのフィードバックを付け加えることで、5~30倍の実効計算能力向上が得られる。
チクタク先生
これらの様々な方策や手法を駆使することで、最新のAIは桁違いの性能を獲得してきたのです。ただ注意してもらいたいのは、これは第1章で40ページある様々なエビデンスを添えたレポートの内容を、私が理解しやすいように400文字まで要約したものです。したがって詳細な情報の大部分はカットされています。詳しい説明やエビデンスは、オリジナルのレポートで確認ください
サルくん
まぁ質問は山ほどありますが、生成AIがこのままのスピードで進化を続けると、AGIになるという話なのですか?
チクタク先生
話はそれほど単純でもありませんが、残念ながら時間となったので、次回の講座で説明します
ここまでのポイント
・世界モデルとは、外界からの観測を基に世界の構造を近似するよう学習して獲得したモデルのこと。人間は成長とともに生得できる。
・AIが世界モデルを獲得すると、観測から要因を推論し、推論した要因から未知のことが予測できるようになってAGIへと進化できる。
・近年のAIは、計算機リソースへの莫大な投資、アルゴリズムの飛躍的改良などによって、桁違いな進化を続けている。
【第2回に続く】
著者:谷田部卓
AIセミナー講師、著述業、CGイラストレーターなど、主な著書に、MdN社「アフターコロナのITソリューション」「これからのAIビジネス」、日経メディカル「医療AI概論」他、美術展の入賞実績もある。
(書き手:谷田部卓 編集:藤冨啓之)