ここまで見てきたように、AIの正体を突き詰めていくと、最終的には「ソフトウエア」という結論に行き着きます。どれほど精巧に人間の知性を模倣していようとも、それは鉄やプラスチックで作られたハードウエア（機械）の物理的な力ではなく、その内部で走っているプログラム、すなわち「人間が書き上げたソフトウエア」がもたらす現象なのです。
私たちが日常的に使っているワープロや表計算などの一般的なソフトウエアは、きわめて厳密な設計図に基づいて作られています。人間が指示した手順（アルゴリズム）通りにしか動かず、ボタンを押せば文字が消え、数字を入れれば計算結果が出るというように、動作の予測が完全に成り立ちます。
一方で、AIというソフトウエアは、一見するとそれらとは全く異なる、不思議な自律性を持っているように見えます。人間が教えたわけではない新しい絵を描いたり、プログラマーすら予期しなかったような見事なアドバイスを提示したりするからです。
しかし、この「AIは自分で学習し、進化する魔法のソフトウエアである」というイメージも、正確ではありません。現代のAIソフトウエアがどれほど柔軟に動いているように見えても、その構造は突き詰めれば、人間が設計した以下の「3つの要素」に完全に支配されています。
- 目的関数（ゴール）： 「何を達成すべきか」という最終的な目標です。チェスで勝つことなのか、自然な文章を作ることなのか、医療画像から病気を見つけることなのか。このゴールを設定するのは、100%人間です。
- アルゴリズム（手段）： 「どうやってその目標に近づくか」という計算の仕組みや数式です。データをどのように分析し、どのように確率を割り出すかというプログラムの骨組みは、すべて人間のエンジニアが設計しています。
- データ（材料）： AIがパターンを学ぶための原材料です。過去の膨大なテキスト、画像、音声、映像など、何をどれだけ学ばせるかを決め、準備して与えるのもまた人間です。
つまり、AIは自分で「よし、今日はこれを学ぼう」と決めることもなければ、「もっと世の中を良くするために、この目標を目指そう」と志すこともありません。人間が目的を与え、人間が仕組みを作り、人間が材料を準備して初めて駆動する、完全に受動的なプログラムなのです。
よく「AIが自己学習する」と言われますが、これは「自分で勝手に賢くなる」という意味ではありません。正しくは、「与えられた大量のデータに最も適合するように、プログラム内の数値（重み）を自動で調整する『微調整の仕組み』が、あらかじめソフトウエアの中に組み込まれている」というだけの話です。
「人工知能」というドラマチックな名前がついているために、私たちはそこに何か生命的なもの、あるいは人類を脅かすような独立した知性を連想してしまいがちです。しかし実際のところ、それは極めて高度で複雑ではありますが、どこまでいっても人間の手のひらの上にある「道具としてのプログラム」にすぎないのです。