AIが社会のあらゆる意思決定に深く関わるようになる未来において、私たちが必ず直面する最も泥臭く、かつ最も切実な課題があります。それが「倫理、法、そして責任の所在」というガバナンス（統治）の問題です。
AIは感情を持たないプログラムにすぎませんが、その計算結果が現実の人間社会に出力された瞬間、そこには必ず倫理的な衝突や、法的なリスクが生じることになります。
最も有名な議論の1つに、自動運転車における「トロッコ問題」があります。
「自動運転中の車がブレーキの利かない状況に陥ったとき、直進して歩行者の列に突っ込むべきか、それともハンドルを切って壁に激突し、乗員を犠牲にすべきか」──。人間であっても頭を抱えるこの過酷な倫理的判断を、AIにどのようにアルゴリズム（計算手順）としてあらかじめ記述しておくべきなのでしょうか。その設定（目的関数）を決めるのはAIではなく、それを設計する人間側の倫理観にほかなりません。
さらに、より現実的で複雑なのが「法的な責任の所在」です。
もし、AIが搭載された自律型の医療機器が手術中に誤作動を起こし、患者に重大な障害が残ってしまったとしたら、その責任は一体誰が背負うべきなのでしょうか。
- 治療を行った「医師」でしょうか。
- AIのシステムを開発した「IT企業」でしょうか。
- データを学習させた「研究機関」でしょうか。
- あるいは、その医療機器を導入した「病院の経営者」でしょうか。
これまでの法律（民法や刑法）は、すべて「人間（または法人）に過失や意図があったかどうか」を前提に作られてきました。しかし、第5章で触れたように、現代のAIは内部が「ブラックボックス化」しているため、開発者ですら「なぜAIがその挙動を選んだのか」を100%説明することができません。誰も意図しておらず、誰も予測できなかったエラーが起きたとき、現行の法の枠組みは完全に機能不全に陥ってしまうのです。
この責任の空白地帯（責任のクッション）において、「AIが勝手にやったことだから誰も悪くない」という論理がまかり通れば、社会の秩序は崩壊します。AIという道具の背後にいる生身の人間が、どのようにリスクを分担し、どのように結果を引き受けるかという、新しい「AI時代の法のデザイン」が今まさに世界中で模索されています。
道具に使われないための絶対原則：
テクノロジーがどれほど高度化し、AIの自律性が高まろうとも、「最終的な法的・倫理的責任は、必ずそのシステムを運用・所有する人間が負う」という一線を1ミリも譲ってはなりません。
AIは、どれほど賢く見えても、刑務所に入ることもなければ、遺族に涙を流して謝罪することもできない「心なき装置」です。責任を背負う能力（責任能力）を持たない機械に、社会の重要な判断を委ねるということは、裏を返せば、人間が自ら「無責任な社会」を選択することに等しいと言えます。
倫理や法とは、私たちが人間らしく、安全に生きるために数千年の歴史の中で培ってきた知恵の結晶です。AIという強力すぎる刃を社会に実装するとき、その刃を研ぐだけでなく、それを収める「倫理と法」という鞘（さや）を人間の手で正しく設計し続けること。それこそが、テクノロジーに社会を支配させないための、人類最後の防壁なのです。