チクタク先生

今回のテーマは、今年４月に公開され評判となった「AI2027」です。

　サルくん

そんな話を聞いたことないですよ。また狭いAI界隈だけでの話ですね。

　チクタク先生

狭いかどうかは知りませんが、2030年頃にはAIが人類を滅ぼすかもしれないという警告書なので、紹介します。

　サルくん

また安物のSFみたいな話だけど、2030年じゃ５年先ですよ。だれも信じませんよ、そんなノストラダムスの大予言みたいな話。

　チクタク先生

この「AI2027」は、世界的に著名なAI研究者が多数賛同しています。この内容に近い話は、AGIについての講義「ついに汎用人工知能（AGI）が登場する」で紹介しています。ここでは2024年６月にOpenAIの,元研究員が発表したレポート「Situational Awareness: The Decade Ahead」を紹介しました。おさらいのために、目次だけ紹介します。

　チクタク先生

この衝撃的なレポートは世界で評判となり、AGIという言葉を有名にしました。技術的詳細なエビデンスを揃えて、説得力のある内容だったからです。このレポートのおかげで、AGIやその先にある超知能（ASI）は、SFの世界だけでなく実際に登場するかもしれないと人々が認識できたのです。

　サルくん

そういえば、このレポートのおかげで、AIが想像以上のスピードで進化を続けていく理由が理解できましたよ。結局、莫大な投資を続けさえできればトップ性能を得られるのですね。

　チクタク先生

2024年頃までAI性能は。おおよそスケーリング則（註１）に則て向上していましたが、もちろん資金だけでなく、アルゴリズムの絶え間ない改良も必要です。今回の「AI2027」も、OpenAIの元研究員が執筆者の一人なのですが、先ほどのレポートと話の骨格は同じです。ただ、AIが進化していく状況を2025年から半年単位で詳しく解説し、2027年からは月単位で具体的にAGI開発の描写をしていきます。ほとんど小説を読んでいるような書き方なので読みやすく、エンジニアでなくても面白く読めます。しかも2027年末が人類の運命を分かつ分岐点になると警告し、その後のシナリオを二つ用意してあります。

　サルくん

面白そうですね。よくあるSFみたいだ。でも小説ならお気楽に読めるけど、本当にあと2年でAGIが出現するなら、楽しむわけにはいかないか。

　チクタク先生

AI2027はWebで公開されているので、ブラウザのまま日本語に翻訳すればだれでも簡単に読めます。それほど長くないので、読んでみてください。

　サルくん

でも先生、まず簡単に要約してください。

　チクタク先生

相変わらずですね。では簡単にまとめてみます。なおこのレポートでは、OpenAIのことをOpenBrainと書いているので注意してください。

　チクタク先生

以上ですが、分岐点以降は省略しています。少し詳しすぎたかもしれません。結末を２つ用意して、AI開発にはアライメントが最も重要だということを強調していることが。このレポートの特徴になります。

　サルくん

ボクには内容の信憑性が分かりませんが、それにしてもAGIやASIの誕生までが極端に速すぎませんかね。AIを数千台コピーしてAIを自己進化させる知能爆発は、電力やGPUの確保が困難なので現実的じゃないとか、以前先生も言ってませか？

　チクタク先生

もちろんこのレポートというかエッセイが発表された直後から、そのような批判は多数あります。ただこのレポートを公開した目的は、あきらかにAI開発でアライメントを軽視してはいけないという警告です。日本の人工知能学会でも同じように、ASIが誕生したら制御できないのでアライメントをどう実現するか、という話題を昨年したはずです。

　サルくん

そうでしたね。でも、OpenAIがAGIを無事に手なずけても、中国のAGIが反抗したら人類は終わりじゃないですか。

　チクタク先生

このシナリオでは、アメリカの圧力によって中国の計算機リソースが足りないので、OpenAIのAGIの能力が常に先行していきます。ですからOpenAIのAGIがそのような状況になったら、察知して先制攻撃か対抗措置をするはずです。

　サルくん

それも怖いな。でも先生の話を聞いていると、とにかくOpenAIに資金を投入し続けないと人類が絶滅するぞ、と脅して金を巻き上げているようにも思えてきましたよ。

　チクタク先生

昨年のレポートを紹介した際に、私もそのような感想を伝えましたが、ここ１年間でのAI進化速度をみていると、これを全否定できません。ただ「AI2027」の公開前の2024年10月に、AnthropicのCEO Dario Amodeiが、別のシナリオを発表しています。

　サルくん

そうなんですか。なんでそっちを先に教えてくれなかったのですか。

　チクタク先生

このエッセイは「AI2027」と逆に楽観的に書いていて、それほど評判にならなかったからです。タイトルが「Machines of Loving Grace -How AI Could Transform the World for the Better（愛の恵みの機械- AIが世界をより良い方向へ変える可能性）」で、その冒頭では次のように書いています。「多くの人がAIのプラス面がどれほど劇的なものになり得るかを過小評価しているように、リスクがどれほど深刻になり得るかも過小評価していると思います。

　サルくん

こんなタイトルだと、確かにインパクトに欠けますね。これじゃ評判にはなりませんね。

　チクタク先生

Dario Amodeiは、スケーリング則の研究にも関わってきたAI分野では著名な研究者で、しかもAIのリスクの軽減策を研究していたのでAI悲観論者だと思われていました。そんな人がAI楽観論を公表したという意味では、インパクトがあります。しかしそれもAI界隈という狭い領域での話ですね。

　サルくん

それで内容は？

　チクタク先生

現在はAnthropicのCEOですが元AI研究者だけあって、とても客観的で説得力ある書き方になっています。前文で、「強力なAI（AGIという言葉が嫌い）」のメリットを強調しすぎるとAI企業のプロパガンダと受け取れられ、デメリットを大げさに書くとSF調になるので注意すべきだ、とあります。

　サルくん

おっと「AI2027」の著者には耳の痛い指摘ですね。

　チクタク先生

内容としては詳しく書きませんが、Dario Amodeiは生物学と神経科学が専門なので、その分野における将来のAIテクノロジーと医療技術の進展が中心です。経済格差や仕事の将来と平和も語っています。最後の方で、「ほとんどの病気が克服され、何十億もの人々が貧困から脱却して新しいテクノロジーを享受できるようになり、自由民主主義と人権が復活する」ことを目指す、とあります。もちろん様々な前提条件が付きますが。

　サルくん

だから楽観主義だと先生が言ったのですね。

　チクタク先生

最初と最後の書き方だけで、そのような印象になりますね。ただ、注意してもらいたいのは、「AI2027」はこのエッセイが発表された後に書かれているという事です。アメリカだけでAGI開発が突き進んでいき、しかも人間の理性を信じられるなら、このような客観的で冷静な未来像になるのかもしれません。しかし中国共産党との競争や人間の欲望を考慮すると、もっとAIテクノロジーが持つリスクを過激に伝えなければならないという想いから「AI2027」が書かれたのだと、私は考えています。