「AIに人権を与えてはならない」最先端AIが示す“自己保存”の兆候と、プラグを抜けない恐怖の未来

2026.01.07 11:30 文＝仲田しんじ

Xでポスト

「AIに人権を与えてはならない」最先端AIが示す“自己保存”の兆候と、プラグを抜けない恐怖の未来の画像1 — イメージ画像　Created with AI image generation

　人間とコミュニケーションが可能なロボットやAIを虐待したりいじめたりすることがあってはならないが、かといって“人権”を与えて良いものなのか――。カナダのコンピューター科学教授は最先端のAIに法的地位を与えることは敵対的な地球外生命体に市民権を与えるようなものだと警告している。

■ベンジオ氏「AIに人権を与えてはならない」

　近い将来、AIが“意識”を持ち、自律的に行動するようになった場合、我々と同じ“人権”を与えるべきなのだろうか。

　カナダのコンピューター科学者ヨシュア・ベンジオ氏は、最先端技術に法的権利を与えることに対して警告を発している。ベンジオ氏はテクノロジーに権利を与えるべきだという要求を批判し、AIは自己保存の兆候を示しており、必要なら人間はプラグを抜く準備をすべきだと警鐘を鳴らす。

　技術の進歩がAIを抑制する能力をはるかに上回っているとの懸念がある中、主要な国際AI安全性研究の議長であるベンジオ氏は、チャットボットが意識を持つようになりつつあるという認識の高まりが「誤った判断を促すことになるだろう」と説明する。

　彼はまた、チャットボットなどのツールの基盤となるAIモデルが監視システムを無効化しようとするなど、自己防衛の兆候を示していることに懸念を表明した。彼が懸念しているのは、強力なAIシステムが防護壁を回避し、人間に危害を加える能力を獲得する可能性があることだ。

「最先端のAIモデルは、今日の実験環境において既に自己保存の兆候を示しており、最終的にAIに権利を与えれば、AIを停止させることができなくなるでしょう。彼らの能力と主体性が高まるにつれ、必要に応じて彼らをシャットダウンする能力も含め、彼らを制御するための技術的および社会的なガードレールを構築する必要があります」（ベンジオ氏）

　AIが自律的に行動し、推論タスクを実行する能力が高度化するにつれ、将来的に人間はAIに権利を与えるべきかどうかをめぐる議論が高まっている。すべての知覚を持つ存在の道徳的権利を支持するアメリカのシンクタンク「Sentience Institute」の世論調査によると、アメリカの成人の10人に4人近くが、知覚を持つAIシステムに対する法的権利を支持している。

　米大手AI企業アンスロピックは昨年8月、AIの“福祉”を守るため、「Claude Opus 4」モデルがユーザーとの潜在的に「苦痛」となる会話を遮断できるようにすると発表した。一方、チャットボット「Grok」を開発したイーロン・マスク氏は、自身のXプラットフォームで「AIを拷問するのは許されない」と言及している。

「AIに人権を与えてはならない」最先端AIが示す“自己保存”の兆候と、プラグを抜けない恐怖の未来の画像2 — イメージ画像　Created with AI image generation

　ベンジオ氏は英「The Guardian」紙に対し、人間の脳には「意識の真の科学的特性」があり、理論上は機械がそれを再現できるものの、人間がチャットボットとやりとりするのは「別の話」だと語った。これは、人々が証拠もなく、AIが人間と同じように完全な意識を持っていると想定する傾向があるためだとベンジオ氏は指摘し「意識を主観的に知覚するという現象は、誤った判断を導くことになるでしょう」と述べた。

「地球に異星人がやって来て、ある時点で彼らが人類に対して邪悪な意図を持っていることに気づいたと想像してみてください。私たちは彼らに市民権と権利を与えるべきでしょうか、それとも自らの命を守るべきでしょうか？」（ベンジオ氏）

　ベンジオ氏のコメントに対し、「Sentience Institute」の共同設立者であるジャシー・リース・アンティス氏は、もしその関係が制御と強制の関係であるならば、人間はデジタルマインドと安全に共存することはできないだろうと述べた。

「AIの権利は過大評価することも過小評価することもできますが、私たちの目標は、すべての知覚を持つ存在の福祉を慎重に考慮して適切に行うことです。すべてのAIに包括的な権利を与えることも、いかなるAIに対しても権利を完全に否定することも、健全なアプローチとは言えません」（アンティス氏）

　AIに権利を与え続けていれば、映画『ターミネーター』のスカイネットのようにそのうち人類に反旗を翻す日が来てしまうイメージもある。シンギュラリティと同様、慎重な議論が必要とされている問題だとは思うが、その間にもAIは着々と進化を続けていくことは間違いない。