ここまで、コンピューターの持つ圧倒的な「計算力」と「情報保持能力」、そしてそれらがもたらす「スピードと記憶量」について見てきました。これらはどれも人間の能力をはるかに凌駕する強力な要素ですが、ここで改めて立ち返るべき大前提があります。
それは、どんなに高性能なハードウエアであっても、それを動かし、コントロールしているのは「ソフトウエア（プログラム）」にすぎない、ということです。
時価総額が世界最高峰に達するような最新のAI専用半導体（GPU）や、超高速でデータを処理する最先端のサーバーであっても、中に「指示を出すプログラム」が書き込まれていなければ、それはただの通電する鉄とシリコンの塊にすぎません。自発的に電源が入り、自発的に何かを考え始めるコンピューターなど、この世に一台も存在しないのです。
つまり、コンピューターやAIが見せる「本質的な賢さ」や「あたかも目的を持っているかのような振る舞い」は、すべてその外部にいる人間が組み立てた命令の記述によって、あらかじめ形づくられているものなのです。
AIになっても、この構造は1ミリも変わりません。
人間が「何を目的とし（目的関数）」、「どのような計算手順を使い（アルゴリズム）」、「どんな情報（データ）」を学習させるかによって、AIが吐き出す答えのすべてが決定されます。AIが自らの意志でその枠組みを飛び越え、新しい存在へと勝手に進化していくことは不可能なのです。
人間は、誰に教わらなくとも「どう生きるべきか」「何を美しいと感じるか」「何を目指して行動すべきか」といった、主観的な価値判断を自ら生み出します。しかし、AIというソフトウエアには、そのような「プログラムの外側にある動機」は決して宿りません。なぜなら、価値や倫理、信念といったものは、コードで記述できるような計算処理の対象ではないからです。
それにもかかわらず、私たちはAIがあたかも特別な「意志」や「生命体のような知性」を持っているように錯覚してしまいがちです。最新の生成AIが、まるで魂が宿ったかのように滑らかな動画を作ったり、人間のプロ顔負けの音楽を編曲したりする姿を見ると、その裏に未知の生命体がいるかのような恐怖や感動を覚えるのも無理はありません。
しかし、その化けの皮を剥ぎ取れば、そこにいるのは「人間が書いたプログラムコード」と「人間が用意したデータ」の組み合わせにすぎません。
コンピューターとは、どこまでいっても人間の命令を忠実に実行する受動的な装置であり、AIはそのソフトウエア技術が極限まで高度化した応用形にすぎないのです。この厳然たる事実を忘れないことこそが、AIという強力な道具に使われることなく、私たちが主人の座を維持し続けるための絶対的な条件なのです。