前章で詳しく見てきたように、AIという道具の内部には、自発的に何かを望むような「独自の意志」は存在しません。しかし、現実の社会に目を向けると、AIはまるで自ら明確な方針を持って動いているかのように見えます。「特定の求職者を自動で不採用にするAI」「戦場で自律的に標的を識別して攻撃するAI」「SNSでユーザーが依存しやすいタイムラインを自動生成するAI」──。
これらは一見、AIが自らの意志で判断を下しているように映りますが、それは完全な錯覚です。AIが示す方針や自律的な挙動の根底には、それを設計し、動かしている「人間の意志」が確実に存在しています。
AIの意志とは、どこまでいっても、人間がプログラムの内部に組み込んだ「目的」の投影にすぎません。
第1章でも触れたように、AIを駆動させるには、人間が「目的関数（ゴール）」を設定する必要があります。AIはそのゴールを達成するために、何億回もの計算を回して最も確率の高いルートを探し出すだけであり、「本当にこのゴールを目指すべきなのか？」という根本的な正しさや倫理性を自ら疑うことはありません。
たとえば、企業の採用選考AIが、ある特定の属性を持つ人々を「合格させない」という冷酷な判断を繰り返したとします。このとき、AIがその属性の人々に対して自発的な悪意や偏見（意志）を持ったわけではありません。
「過去の採用データにおいて、このような経歴の人物が活躍する確率が高かった。だからそれ以外を排除する」
AIは、人間が与えた「効率的に過去の成功例を踏襲せよ」という命令と、人間が準備した「偏りのある過去のデータ」に、ただ盲従しているだけです。つまり、AIが下した冷酷な判断の正体とは、AIの暴走などではなく、それを設計した人間側の「無自覚な偏見」や「効率性のみを追い求める意志」が、計算によって極端に増幅されて表面化したものにほかなりません。
AIという強力な銃の引き金を引くのは、常に人間です。
「AIが勝手にやったことだから」という言い訳は、技術的には絶対に成り立ちません。AIにどのような目的を与え、どのようなデータを学習させ、どのような価値観をそのシステムに反映させるのか。その「意志の組み込み」のプロセスに、私たちはどこまで倫理的で、公平であれるのか──。
AIという「心なき知性」が社会を動かす時代だからこそ、その道具の背後に潜む「人間の意志」のあり方と、それをコントロールする側の重い責任が、今まさに私たち一人ひとりに突きつけられているのです。