人間にはAIのトレーナーとなる重要な役割がある。

AIを活用するうえで注意すべきことは、モジュール型の発想をやめることです。

一般的なシステムはコンポーネント（部品）で構成され、インプットした情報に対して一定の精度で答えを出すように設計されています。一方、常に学習し続けるAIは、一定の精度で答えを出し続けるわけではありません。学習を重ねながら動的に強化を続ける一方で、学習のやり方を誤ると急激にパフォーマンスが落ちることもあります。AIの性能は、ポケモン（ポケットモンスター）が進化するように、劇的に変化するものと考える必要があります。

AIを使いこなすためには、どのようなデータを与えるかが重要です。渡し方を間違えると精度が低下したり機能しなくなったりするため、人間はAIに対するトレーナーの役割を果たす必要があります。AIの成長を踏まえたうえで全体設計やプロジェクト設計をしなければ、十分にパフォーマンスを引き出すことができません。AIは、大きなポテンシャルを秘めた優秀なアシスタント、部下とも捉えることができるかもしれません。

また、AIが本質的に抱えるブラックボックスを理解した上で、活かすという考え方も重要です。特に代表的な手法であるディープラーニングは、開発したエンジニアでさえAIの思考ステップやメカニズムを把握していません。この部分を許容してこそ、AIで高いパフォーマンスを出すことができます。例えば、人間が勘と経験で分析すると100％の精度が出るところ、ディープラーニングを使うと60％の精度になるとします。この場合、「100％の精度が出ないから使う意味がない」と捉えるか、「扱う品目や担当者に関わらず、誰がやっても60％の精度が得られるのなら使うべき」と捉えるかでは大きく違います。AIを活用するには、後者の発想を持ち、人との置き換えでなく、新しい領域に行くためのエンジンとして捉えることが不可欠です。

マネジメントやデータ分析の領域では、かつて米国の国防長官を務めたマクナマラが、データだけを唯一の判断基準としたことがベトナム戦争の失策につながったという「マクナマラの過信」が知られています。このような過信をさけるために、AIにどういったデータを、どれだけ食べさせるか？を慎重に考え、機械学習の「オーバーフィッティング（過学習）」を回避していく努力は常に必要です。

また、AIの限界として破滅予測ができないことも頭に入れておく必要があります。破滅予測とは、枠組みそのものが壊れることを予測するもので、例えばリーマンショックの到来や、トランプ大統領の当選による影響を予測することです。与えられたデータからしか判断ができないAIにとって枠組みそのものが壊れることを予測するのは不可能であり、AIを使う側の人間もそれを理解して過剰な期待を抱かないことも大切です。

AIの活用においては、現実との誤差を小さくする方向への最適化が重要となります。AIはデータ自体が正しいかを判断することはできませんし、AIにとって枠組みそのものが壊れることも予測できません。

そのため、AIに渡すデータが本当に適切かどうかを意識する視点が重要で、それができるのは人間だけです。AIによって仕事がなくなるかもと悲観する必要はなく、人間にはAIのトレーナーとなる重要な役割があると言えるでしょう。

1 2