「10年以内にAIが人類を脅かす」内部から漏れ出た警告の中身とは？Anthropic安全部門トップが突如退社

• 
• Xでポスト
• 

　AI開発の最前線で今、看過できない警告が相次いでいる。

　AI大手Anthropicでアライメント（安全性調整）部門を率いていた研究者が、2026年9月9日付で突如退社した。理由として本人が挙げたのは、会社が「責任を持って行動していない」という強い懸念だったという。

　奇しくもこの一件は、2018年に他界した物理学者スティーブン・ホーキング博士がかつて発した警告や、OpenAIの元研究者が語った「人類が動物園に囲われる未来」という不穏なシナリオとも重なり合う。

　3つの証言に共通して登場するのが「10年」という時間軸だ。

Anthropic研究者が語った「10年以内」の恐怖

　海外メディアLADbibleの報道によると、退社したのはジェイコブ・コックスオン氏。Anthropicでシニアリサーチャーとして、AIアライメント業務の責任者を務めていた人物だ。

　同氏は、AnthropicとOpenAIの両社が「責任ある行動を取れていない」と指摘し、両社とも「自己改善型の超知能」開発競争に突き進んでいると述べたという。

　具体的には、あらゆる分野を一晩で塗り替えるほどの能力を持ち、実際の権力や資源を自ら獲得しうる「超人的なシステム」が生まれる可能性に言及。2030年代までにAIが人類全体を脅かす存在になりうるとの見方を示したとされる。

　Anthropic共同創業者のダリオ・アモデイ氏を含む経営陣も、こうした文明規模のリスクを認識してはいるものの、開発競争そのものから抜け出せずにいるというのが、コックスオン氏の見立てだ。

ホーキング博士がすでに鳴らしていた警鐘

　実は同種の懸念は、今に始まったものではない。

　BBCの取材に対しホーキング博士は、完全なAIの実現が「人類の終焉を意味しかねない」と語っていたことで知られる。AIが自己改善を続ける一方、人間は生物としての進化の遅さに縛られ、いずれ追い抜かれかねないという趣旨だ。

　死去の前年にあたる2017年、Wired誌の取材でも博士は、AIがいずれ人類に完全に取って代わる可能性に触れ、AIは人類にとって「最良にも最悪にもなりうる」と述べていたという。

　コックスオン氏の退社を報じた海外メディアの一部は、このホーキング博士の予言が、今まさに現実味を帯びつつあると位置づけている。

生き残っても「動物園」に? 元OpenAI研究者の予言

　英メディアUniladの報道によれば、OpenAIのガバナンス部門で2年間勤務したダニエル・ココタイロ氏も、同様の危機感を語っている。

　同氏はチャンネル4ニュースの取材に対し、人類が完全に絶滅しないとしても、生存者がAIによって作られた「動物園」のような保護区に、科学的観察の対象として囲われる可能性があると指摘したという。

　根拠として挙げたのは、人間と他の生物種の関係だ。人類は意図的に他種を滅ぼしているわけではなく、産業化で生息地を奪うことで、結果的に多くの種を追いやってきた。人間を気に掛けないAI文明がインフラを広げ続ければ、同じ構図で人類も生息の場を失っていくのではないか、という類推だという。

　ココタイロ氏もまた、10年以内に人類がこれまでと同じ姿で存在していない可能性があると述べている。

　もっとも、AI開発の現場には楽観的な見通しを崩さない研究者も数多く、今回の一連の警告が業界の総意というわけではない。ただ、安全性を担う立場の人間からこうした声が相次いで漏れ出てくること自体が、開発競争の過熱ぶりを物語っているとも言えるだろう。

　10年後、私たちはこの警告を「杞憂だった」と笑って済ませられるだろうか。

参考：Unilad、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  「人間が一度も話したことのない言語」をAIがゼロから創造！ 既存言語すら参照しない新世界

• 

  【2028年予言】AIバブル崩壊から米中戦争へ？ “破滅の予言者”が警告するトランプ3期目と日本を襲う未曾有の地殻変動とは

• 

  【自律型兵器】AIが「殺す相手」を自ら選び、民間人3人が死亡!? 国連と赤十字が鳴らす最終警告

• 

  AIの助言通りに荷造りしたら食料も水も足りなかった！ 「聖なる山」シャスタ山で男性3人が遭難、保安官事務所が異例の警告