AIが私たちの目に見事に「優れた判断」を下しているように映るもう一つの理由は、人間には到底処理できない「膨大なデータをもとにした推論（予測）」の仕組みにあります。
たとえば、スマートフォンで撮影した写真をAIに見せると、そこに写っているのが「猫」なのか「犬」なのか、あるいは「富士山」なのかを瞬時に、かつ正確に判別してくれます。また、私たちの過去の買い物履歴や動画の視聴履歴を分析して、「あなたが次に欲しくなる商品」や「今夜見たくなる映画」を、驚くほどの的中率でおすすめしてくることも日常茶飯事です。
これらの一見、直感や高い審美眼が必要に思える判断を、AIが魔法のようにこなせるのはなぜでしょうか。
その種明かしをすれば、AIは「何百万枚、何億件という過去のデータと、それに付随する正解のラベル」をあらかじめ大量に吸い込んでいるからです。AIの行う「推論」とは、私たちが考えるような論理的な思考ではなく、「これまでに見た膨大な過去のパターンに照らし合わせて、最も確率が高いものを選ぶ」という統計的な作業にすぎません。
AIが写真の中の猫を「猫」だと当てる時、AIが猫の可愛らしさや、気まぐれな生態を理解しているわけではありません。
「過去に『猫』として与えられた何百万枚もの画像データにおいて、ピクセルの色の濃淡や、輪郭の線の傾きがこのようなパターンを示していた。今回の画像はそのパターンに98%の確率で一致する。だから、これは『猫』という記号である可能性が最も高い」
AIがやっているのは、どこまでいってもこの確率の計算です。彼らにとって、世界はすべて「数値化されたパターンの集まり」であり、推論とはそのパターンの一致度を測るプロセスなのです。
この推論能力は、人間が束になっても敵わないほど強力です。人間は、何万件ものデータを見せられると脳が疲弊し、判断にブレが生じますが、AIはどれほど膨大なデータであっても一瞬で、かつ一貫した基準で処理し続けます。この「ブレのなさ」と「客観性」が、私たちに「AIの判断は人間の直感よりも合理的で、優れている」と感じさせる要因になっています。
しかし、この高度な推論も、その根底にあるのは「過去のデータの写し鏡」です。AIは、データの海の中に隠れている「相関関係（Aのとき、Bになりやすいという傾向）」を見つけることは得意ですが、「なぜそうなるのか」という「因果関係（原因と結果）」や、その背景にある「文脈」を理解しているわけではありません。
どれほど魔法のように見事な推論であっても、それは人間が残した膨大な足跡を、計算によってきれいに整理して見せているだけ。その事実を忘れると、私たちはAIの弾き出した「確率」を、絶対的な「真実」だと見誤ってしまうことになるのです。