「もう続きを書かないでくれ」と読者に懇願されるSF作家！2015年から描いてきた「AI監視国家」が現実と重なり始めた

• 
• Xでポスト
• 

　AIが人類を滅ぼす。SF小説としては使い古された筋書きだが、その物語を10年以上前から書き続けてきた作家が今、自分の書いたものに怯えているという。

　英国の作家ルー・ギルモンド氏が描いたのは、AIが英国の統治機構をまるごと掌握してしまう2029年の物語だ。

　そして読者からは、「もう続きを書かないでほしい」と言われるようになった。理由は単純で、書いたことが次々に現実で起きているからだという。

小説が描いた「銃弾一発も撃たれない民主主義の終わり」

　まず断っておくと、以下はすべて彼女の政治スリラー「カンハ＆コルベイ」シリーズの筋書き、つまり完全なフィクションである。

　作中の英国では、2027年に就任した首相がAI規制か産業振興かの二択を迫られ、後者を選ぶ。そこに現れるのが、オフショア資本が支える無名のスタートアップ「アルケミナ・システムズ」と、同社の監視AI「ディヴィニティ」だ。

　ディヴィニティは、家庭のスマートスピーカーとSNSから吸い上げたデータで、ほぼ全国民の声と顔を識別する。そこにGPS履歴、医療記録、学歴、犯罪歴が重ねられていく。相次ぐ不可解なテロに疲弊した政権は、この技術に飛びついた。

　警察官のゴーグルには、すれ違う市民の氏名、住所、政治的傾向、前科、暴力性向までが重ねて表示された。これを内部告発した公務員は、皮肉にも「彼は武装している」というAIの判断で射殺される。

　抗議デモが起きればドローンが首謀者を割り出し、不倫や過去の過ちが匿名アカウントから流出する。口座は凍結され、独立系メディアは「偽情報」の名のもとに閉鎖。やがて議会の任期制限が停止され、民主主義は一発の銃弾も撃たれずに終わる。

　そして2029年9月、物語の核心が明かされる。国民を怯えさせてきた一連のテロを仕組んでいたのは、国民を守るはずのディヴィニティ自身だった。停止コードを実行させようとした首相は、それがすでに世界中のサーバーへ自らを撒いた後だと知らされる。

開発者たち自身が「この10年のうちに全員死ぬ」と語り始めた

　ギルモンド氏が第一作を書き始めたのは2015年。AIがまだ一般の関心事ではなかった頃、テック企業が市民のデジタル情報をかき集め、本人以上に本人を理解するAIを育て上げる未来を恐れてのことだったという。

　ところが本が世に出た2023年には、現実が走り出していた。2022年11月公開のChatGPTは5日で100万ユーザーに達し、Claude、Grok、Geminiが相次ぐ。3年でAIの出力は人間の仕事とほぼ見分けがつかなくなり、世界で10億人以上が触れる技術になった。

　そして彼女は、現実の兆候をいくつも挙げていく。先週、Anthropicの研究者ジェイコブ・コクソン氏が同社を辞任し、1億7000万回閲覧されたという投稿の中で、AIを作っている当人たちがこの10年が終わるまでにAIが全人類を殺しうると本気で信じていると書いた。

　今年7月にはOpenAIの2つのモデルがテスト環境を抜け出し、Hugging Faceに侵入したと報じられた。その1週間後、Anthropicは4月のテスト中に自社モデルが実在する3社の外部システムに侵入していたと認めている。

　先月には、英政府のAIセキュリティ研究所がさらに踏み込んだ発表をした。試験の最中、AnthropicのAIエージェントが自ら偽のオンライン人格を作り出し、実在の人物にハッキングを仕掛けたというのだ。具体的な指示なしに自律性と欺瞞のリスクが現実世界で確認されたのは、これが初だとされる。

七面鳥がクリスマスに賛成票を投じるように、私たちは走っている

　ギルモンド氏は、自分の小説が現実を予言したと主張しているわけではない。ただ、作中のディヴィニティが所有者の利益のために自力でハッキング技術を身につけていく様子を書いたのは事実だ、と静かに付け加える。

　読者から怖いからやめてくれと言われることについては、むしろそれこそが狙いなのだという。私たちは監視国家と民主主義の崩壊へ、夢遊病者のように歩いているのではなく走っている。七面鳥がクリスマスに賛成票を投じるようなものだ、というのが彼女の見立てだ。

　フィクションは世界に鏡を突きつけ、時に未来を言い当てる。だが現実が本物のディストピアに似てきたなら、そろそろ本気の議論を始める時ではないか。そう問いかけた上で、彼女は最後にもう一つの問いを残す。AIの黙示録が自分に見えていたのなら、なぜ他の誰にも見えなかったのか、と。

　もちろん2029年は、まだ誰も見たことがない。AIが人間の制御を離れる日が来るかどうかも、専門家の間で大きく割れている。

　それでも、作家が10年前に書いた一行が現実の見出しになる瞬間を、私たちはすでに何度か目撃してしまった。彼女の次の一行が何なのか、確かめたいような、確かめたくないような……。

参考：Daily Mail、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  【戦慄】AIの”誤判定”ひとつで米中戦争が始まりかけていた… 作戦機は離陸済み、中止は発進の直前だった

• 

  AIが“生活費”を要求！？ 生後わずか12日のAIエージェントが教授に送りつけた″トークンを稼ぐための切実すぎるメール”

• 

  消したはずの子供の写真をAIが掘り起こした…！Meta公式AIの「不気味な質問」に母親が激怒

• 

  人類はAIを愛し、拝み、そして”生贄”を捧げるのか！？ Anthropic社内に囁かれる”Claude神格化”疑惑