──AIに限界はないのか？

生成AIの普及が進み、日進月歩で性能は向上しています。今後、AGI（Artificial General Intelligence：人工汎用知能）の開発や、機械が人類を超えるシンギュラリティの到来なども待望される中で、そう疑問や不安を感じたことがある方は少なくないのではないでしょうか。

実は、AIには限界はあります、今のところ。

そのひとつ「フレーム問題」とは何か、今後解決の見込みはあるのか、そんななかで人間はどんな独自の価値を発揮できるのか。

本記事では、そのような疑問にお答えします。

「フレーム問題」とは？ 電話帳、爆弾とロボットの例で考えよう

AIのフレーム問題とは、「無限の可能性を持つ実世界の問題解決に有限の計算能力しか持たないAI（人工知能）が持つ限界についての問題」です。この問題は、人工知能研究の権威であるJohn McCarthy、Patrick Hayesにより、1969年に議論されました。

まだ抽象的過ぎて理解が追い付かない、という方も多いのではないでしょうか。具体的なフレーム問題の例をいくつか見ていきましょう。

【電話帳のフレーム問題】

John McCarthy、Patrick Hayesの議論で持ち出されたのがこの問題です。電話帳（といっても今ではあまり使われていませんが、電話番号の掲載された名簿のこと）を使って誰かに連絡を取ろうとする際、一般に我々人間は特に悩むことはありません。「電話帳を開く→目当ての相手の電話番号を見つける→その相手に電話をかける」というだけです。

しかし、その背景には‟電話をかける対象の相手が電話番号を調べ上げた後、電話がかかってきた時点で電話を所有している”という前提が存在します。理屈上、人工知能に正確に命令をするためにはこのような前提もすべて明文化しなければなりません。相手は電話を所有している、電話は問題なく通信可能である……、そのような条件全てを記述していてはいくら時間があっても足りませんし、手間がかかりすぎるのは自明でしょう。

【爆弾とロボットのフレーム問題】

この問題は1984年、アメリカの哲学者Daniel Dennettの論文で記述されました。同論文は、R1と名付けられたロボットの紹介から始まります。R1はワゴンの上に乗せられたバッテリーを部屋へと取りに行くことに。そのワゴンには、まもなく爆発する時限爆弾も積まれています。R1は爆弾が爆発する前にワゴンを運び出すことができましたが、爆弾も一緒に持ってきてしまったため、爆発に巻き込まれて破壊されてしまいました。

そこで研究者たちは新しいロボットR1D1を開発しました。行動の意図だけでなく副次的な影響についても洞察できる機能を搭載します。R1D1はワゴンを運び出すことは壁の色に対し影響しないという推論を終え、ワゴンの回転数とワゴンの車輪の数の関係について計算をはじめ……その最中に爆発に見舞われました。

懲りない研究者たちは新しいロボットR2D1を開発し、関係のある情報とない情報を仕分けし、関係のない情報は無視する機能を追加しました。そして、R2D1は猛然と無視すべき情報とすべきでない情報を区別するための計算をしている途中に、破壊されました。

このように、分析すべき世界の情報は無限なのに、何か仕事をするための時間は無限ではない。これがフレーム問題の核となるパラドクスであり、スターウォーズのR2D2のようなAGIを生み出すための分厚い壁となっているのです。

AIのフレーム問題はどのように解決されるのか？

フレーム問題はどのように解決すればよいのか？

ひとつの対処法としては、特に指定がなければ基本的には変化がないということをデフォルトに設定する「フレーム公理」が挙げられます。また、因果関係のモデリングやアブダクションなど、人間の現実への対応方法を参考にしたヒューリスティックなアプローチが研究されてきました。

実のところ、フレーム問題は人間も解決できているわけではありません。日本の人工知能学者である松原仁氏は1991年の論文『暗黙知におけるフレーム問題』にて、そのたとえとして、アメリカでとある主婦が電子レンジで猫を乾かそうとして殺してしまった事件を持ち出し、現実に起こりうるすべての問題を考慮することなど人間にも不可能であることを指摘しています。

しかし、人間は電話を自由にかけることも、爆弾だけをおいてバッテリーを持ってくることもできます。その状態を松原氏は「人間はフレーム問題を疑似解決している（※）」と表現しています。その背景には、人間の持つ膨大な暗黙知が影響していると考えられるでしょう。

※引用元：松原仁『暗黙 知 におけるフレーム問題』┃科学哲学24(1991)、48ページ

だからこそ、人間の脳の神経細胞を模倣したニューラルネットワークが発展した先で、フレーム問題の解決が期待できるという意見もあります。現在のところは、フレーム問題の限界を踏まえたうえで、フレーム問題の壁にぶち当たらない限定された状況下での問題解決に用いるのがAIの使い方の主流です。将棋やチェスといった完全情報ゲームや、与えられた条件に応じた音楽や画像、テキストの生成はその代表的なもの。

人間がフレームを与えてあげる、というのは現在のAI活用において有効な考え方といえるでしょう。

フレーム問題と自動運転のかかわり

フレーム問題とかかわりの深いAIの活用可能性として代表的なものに、「自動運転」が挙げられます。

人間の運転手の場合、目の前に人間や動物が飛び出して来たら当然停車しますが、葉っぱや雪であれば、そのまま走り続けるという判断をします。しかし、もしもその葉っぱや雪がが走行に支障をきたすほど大量だったらいったん停車して様子を見るでしょう。その際、後続車両に危険を及ぼさない配慮も求められます。

少し考えてもこのようにさまざまなパターンが想定される一般道の運転を安全に実現するために、膨大なデータの蓄積が試みられており、それにはまだ時間がかかりそうです。2023年、福井県永平寺町で完全な自動運転を行うレベル4の自動運転車の実験が行われましたが、速度は最大で12km/時、一般の車両が走らない専用道路、運行管理者による遠隔監視など、さまざまな条件が設けられていました。

まずはシステムが正常に作用するよう環境が整えられたODD（Operational Design Domain）で実験を進め、フレーム問題の発生する緊急時などには人間がサポートしながら、自動運転を実用化していくのが現在の流れとなっています。

終わりに

AIのフレーム問題について、具体例や社会とのかかわりを取り上げつつ解説してまいりました。AIについて考えることは、我々人間のできることや限界について考えることにつながります。疑似的ではあるものの、フレーム問題に自然と対処できているという人間の特性は、現在のところAIの持ちえない強みといえるでしょう。人間ならではの強みを発揮し、AIと上手に協力していくための鍵として、ぜひ「フレーム問題」にご注目ください。

（宮田文机）

ChatGPTとAPI連携したぼくたちが
機械的に答えます！

なんでも質問してください！

何か面白いことを言うかもしれないので、なんでもお気軽に質問してみてください。
ただし、何を聞いてもらってもいいですけど、責任は取れませんので、自己責任でお願いします。
無料ですよー

ヒューマくんAIの回答は正確ではない場合もあります。

質問を送信する