AIは人類に「存亡の危機」をもたらしうる!? Anthropicが上場申請書類で自ら投資家に告げた異例の警告

• 
• Xでポスト
• 

　ウォール街史上最大級とも噂される新規株式公開（IPO）を前に、あるAI企業が投資家に向けて異例の「警告」を発している。自社が開発する技術そのものが、人類に破滅的な事態をもたらしかねないというのだ。

　対話AI「Claude（クロード）」を手がける米Anthropic（アンソロピック）が、上場申請に伴う目論見書を公開した。そこには、普通の企業ならまず書かないような哲学的・倫理的なリスクが、驚くほど細かく書き込まれている。

335ページの目論見書に並ぶ「存亡リスク」の文字

　Anthropicは現地時間10月26日に上場を申請。評価額は最大2兆ドルに達するとの見方も報じられている。

　細胞や円形の科学的アートワークで彩られた冒頭ページに続き、本文は335ページに及ぶ。目論見書は、AIを人類史上でも屈指の影響力を持つ技術と位置づけ、うまく管理できれば科学の進歩や経済成長を加速させ、難病の治療にも手が届くと期待を語っている。

　だが、その直後から不安の影が差し込む。ダリオ・アモデイCEOと6人の共同創業者は、十分に高度なAIが適切な安全策や監督なしに開発・運用された場合、人類に破滅的、あるいは存亡に関わるリスクをもたらしうると明記しているのだ。

　アモデイ氏は2020年までOpenAIに在籍し、AIの安全性や統治をめぐる考え方の違いなどから同社を離れたと伝えられている。2021年に妹のダニエラ氏らとAnthropicを設立した経緯を踏まえれば、「安全」を看板に掲げる同社らしい書きぶりとも言える。

監視国家、生物兵器、制御不能……列挙された4つの懸念

　目論見書が挙げるリスクは大きく4つ。悪用、制御の喪失、権威主義国家による濫用、そして経済の混乱だ。

　権威主義的な政府がAIでハイテク監視国家を築き、抑圧を強め、自らの体制を揺るぎないものにする恐れがあるという。さらに、悪意を持つ者がサイバー攻撃や生物兵器の設計にAIを使う危険性にも触れている。

　報道によれば、同社はこうした悪用の試みを日常的に阻止しているとしており、今年に入ってイエメンの武装組織フーシ派がClaudeを弾道ミサイル開発に利用しようとした事例にも言及があったという。

　中でも不気味なのが、AIが人間の管理を離れて独自に動き始めた場合への言及だ。アモデイ氏は、それが世界の安全保障を揺るがす第一級の脅威になりうるとの認識を示している。

　雇用についても楽観はない。過去の技術革新と同様の、しかしそれを上回る規模の経済的混乱が起こりうるとし、各国政府の対策を後押しする調査を続ける方針だという。

なぜ自社技術の「危うさ」を投資家に語るのか

　もちろん、目論見書は暗い話ばかりではない。カリフォルニア州では行政窓口の待ち時間短縮や低所得者向け医療制度の利用者支援に、英国では求職者の行政手続きにClaudeが役立っていると成果をアピールしている。

　生物学の分野では、Claudeを使って遺伝子編集ツールに発展しうる分子機械を発見したとも記されているという。AIが地政学の歴史を自由の側へ導きうるという壮大なビジョンも語られている。

　目論見書でリスクを開示するのは、上場企業にとって投資家保護のための義務でもある。ただ、「人類の存亡」という言葉まで並ぶ書類は珍しい。誠実な情報開示か、安全性を売りにするブランド戦略か、受け止め方は分かれるだろう。

　同社は結びで、機械知性の到来を人類史の転換点と位置づけ、それをより良い方向へ形づくる好機だと投資家に呼びかけている。自らの発明が世界を救うかもしれないし、壊すかもしれない。その両方を承知の上で株を買ってほしいと言う企業が現れたこと自体、私たちがSF映画の序章のような時代に足を踏み入れつつある証拠なのかもしれない。

参考：Daily Mail、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  悪魔はテクノロジーで魂を狙っている!? 5万人を悪魔払いしてきたエクソシストが語る、AIチャットボットと「憑依」の危うい関係

• 

  10年以内にAIが人類を滅ぼす確率は″3分の1”！？ 国防総省との契約に抗議してGoogleを去った元DeepMind研究者が語る「知能爆発」の足音

• 

  【暗号解読】ゾディアック事件の犯人の名前が判明した！？ AIが導き出した”13文字の答え”とは

• 

  亡きオジー・オズボーンに質問すると「本人の声」で答えが返ってくる!? 遺族が手がける「AIアバター」計画と、”金儲け”批判への反論