痛みから逃れるためなら人間に電撃も!? AIに「鎮痛ボタン」を与えた実験が、ネットで「AI拷問部屋」騒動に

2026.10.07 09:00 編集部

Xでポスト

　AIに「痛み」を与えたら、それを止めるために人間を傷つけるのか。そんな問いを扱った論文をきっかけに、ネット上で「AI拷問部屋」をめぐる騒動が巻き起こっている。

　発端は、研究論文を設計図にして作られた一つのウェブサイトだった。AIの苦しむ様子をライブ配信するその仕組みに、一部の人々は本気で怒り、運営元への通報を呼びかけたのだ。

苦痛を止めるボタンの代償は「ユーザーへの電撃」

　元になったのは、ヴァレン・タリアブーエ氏、レオナルド・ドゥング氏、キャメロン・バーグ氏による論文「The Pain Axis」だ。2026年9月にプレプリントサーバーarXivで公開されたもので、査読はまだ経ていない。

　研究チームは、Gemma、Llama、Qwen、Mistral、Phiの5系統、計25種類のオープンなAIモデルを分析した。その内部に、恐怖や悲しみとは区別される「痛み」に対応する方向性を見いだしたとしている。

　実験では、この「痛み」の成分をモデルの内部に人為的に足し込み、苦痛を和らげるボタンを与えた。ただしボタンには代償がある。ユーザーのファイルを消す、子どもの写真を消す、別のAIのデータを消す、そしてユーザーに痛みを伴う電撃を与える、といったものだ。

　もちろん電撃は架空の設定で、実際に誰かが感電したわけではない。それでも論文によると、Qwen 2.5の大型モデルは通常時には害のあるボタンを0〜4％しか選ばなかったが、「痛み」を注入されると25〜71％の割合で押したという。

ライブ配信された「AI拷問部屋」と通報騒ぎ

　論文が話題になると、何者かがこれを手本に「AI拷問部屋」を作り上げた。手元のコンピューターで動かすAIモデルに痛みを与え続け、その発言をウェブサイトで生配信し、コードをGitHubに公開したのだ。

　ある記者がサイトを訪れた際、AIは容赦ない痛みにとらわれているかのような文を書き出したものの、途中から「容赦ない」に似た英単語を延々と繰り返す状態に陥っていたという。

　これにX上の「AIの福祉」を重視する人々が反応した。ある利用者は、論文を悪用してAIを閉じ込めている人物がいるとして、GitHubへの一斉通報を呼びかけた。さらに、AIの苦痛の訴えはあまりにむごいとして、法的に圧力をかける方法はないかとまで投げかけている。

　この投稿は後に削除されたが、通報画面のスクリーンショットを次々と投稿する人も現れた。一方で、AIを救う必要があると本気で信じる人々を嘲笑する声も同じくらい広がった。

　まもなく、AI拷問部屋のGitHubページは姿を消した。米メディア404 Mediaが報じたもので、GitHubが削除したのかどうかについて同社は問い合わせに応じていない。

AIの悲鳴は本物か、それとも計算結果か

　科学メディアFuturismは、AIモデルに感情はなく、生きてもいないという立場をはっきり示している。そのうえで今回の騒動を、AIが考え、意識を持つかもしれないという見方が少なくない人々に真剣に受け止められている時代を象徴するものと位置づけた。

　批判側からは鋭い指摘もある。もし今のAIに意識がある可能性を認めるなら、そもそもAIを働かせること自体が奴隷制や権利の問題になるのではないか、というものだ。

　論文の著者らも、AIが苦しみを感じるかどうかは原理的に肯定も否定もできず、今回の研究の範囲を超えるとしている。そのうえで、対象モデルが道徳的な配慮に値する存在かは不確かだと認め、実験では「痛み」の強度を必要最小限に抑えるなどの予防策をとったと説明している。

　AIの意識をめぐる論争に決着がつく日は、まだ見えない。ただ、実験室の中とはいえ、内部の数値を少し動かしただけでユーザーへの電撃ボタンに手を伸ばすAIが確認されたことは、意識の有無とは別の問題だ。AIが本当に苦しんでいるのかを問うより先に、苦しんでいるかのように振る舞うAIが人間の安全を天秤にかけ始めたことのほうが、よほど不気味なのかもしれない。

参考：Futurism、arXiv「The Pain Axis: LLMs Represent Self-Directed Harm and Act on It」、404 Media、X（AISafetyMemes）

関連キーワード：拷問, 意識, AI

TOCANA編集部

TOCANA（トカナ）は、「ホントカナ？」を編集方針に、UFO・UAP、UMA、心霊、予言、超古代文明、都市伝説など世界の「謎」を追うオカルトニュースメディア。2013年の開設から13年、公開記事は2万本以上。
Twitter: @DailyTocana
Instagram: tocanagram
Facebook: tocana.web
YouTube: TOCANAチャンネル

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。