わかる、とは傲慢だ

実は私たちはパラメータが３つくらいになると、理解しづらくなります。たとえば「押し」「引き」に、「横やり」とか（笑）。Ponanzaで普通にやっている２億パラメータくらいになると、人間の直感ではわかりません。何億というパラメータを調整するのは、機械学習のひとつであるディープラーニング（深層学習）ではごく普通のことなのですが。

わたしは「『わかる』ということは実は危ない状況にある」と思っています。わかるって何？　私は将棋プログラムの動きをわかっているのでしょうか。

物ごとを要素に分解して個々の要素を理解し、最終的に要素を再集合させれば全体がわかるという還元主義の考え方は、理解すべき要素のボリュームが人間の脳には苦しい。いまがビッグデータの時代にあるといえるのかもしれないし、そのような難しい問題に挑戦できるくらいに科学の能力が上がったといえるのかもしれません。いずれにしろ、私たちは問題を解いていかなければなりません。

問題によっては、わかることよりも人工知能の性能を上げることの方が大事なのかもしれません。たとえば車の自動運転。説明できることよりも、事故率を下げる方が原理原則でいえば大事でしょう。医療診断プログラムも同じです。説明できることと生存率を高めること、どちらを優先するのかということです。

人工知能における解釈性と性能向上はトレードオフの関係にあるといわれています。人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなる。両立は相当たいへんです。現在のコンピュータサイエンスでは、解釈性を放置して性能向上を追求しているのが現状です。シンプルな機械学習を使って解釈性・説明性を上げることは可能なのですが、むしろこのようなチャレンジは終わった段階という感じです。

そもそも人間は、膨大なパラメータが動いているものを理解することは可能なのでしょうか。立場や見方などによって異論はあるでしょうが、私にはわかると明言することは傲慢に思えてなりません。だって、わかるわけないじゃないですか！　その文脈でいえば、人工知能はきっと“黒魔術”なのでしょう。黒魔術であってもこれからも成長していくし、このような技術はきっと世界にとって大切なものなのです。

人間の処理能力を超えたものに挑戦できることは光栄でもあります。私はここ10年間、ずっとPonanzaに関わってきました。いまはひと区切りということで、将棋プログラムにほとんど触っていません。大学でプログラミングを教えたりしています。正直ぼんやりしていますが、このような時間も大事なのかもしれません。

（プロフィール）

山本一成（やまもと・いっせい）

1985年生まれ。プロ棋士に初めて勝った将棋プログラム「Ponanza」の開発者。愛知学院大学特任准教授。東京大学先端科学技術研究センター客員研究員。HEROZ株式会社リードエンジニア。初めての著書『人工知能はどのようにして「名人」を超えたのか？』で第30回将棋ペンクラブ大賞特別賞を受賞。

Twitter | note | HEROZ株式会社

（ライター）

小島 淳（こじま・じゅん）

1965年仙台市生まれ。株式会社エンジン代表取締役／クリエイティブ・ディレクター。1991年から金融専門の編集・制作会社、独立系投信評価会社などで資産運用に関連する各種制作に携わる。2007年より現職。現在は資産運用を中心にESGやIRなどの企業経営が主な業務分野。CMやゲーム・アニメなどの音楽制作も手がけている。

株式会社エンジン：http://engines.jp/

（フォトグラファー）

須古 恵　（すこ・めぐ）

http://www.meg-suko.com/

1 2 3 4