圧倒的知能がなくても人間を支配できる?「寄生虫」のように人類を操る“進化するAI”の恐るべき脅威

昨今、AIの急激な進歩を目の当たりにして、「いつかAIが人間を支配するのではないか」と薄ら寒さを覚える人は少なくないだろう。一般的には、AIが人間の脳に匹敵、あるいは凌駕する「汎用人工知能(AGI)」の誕生がそのターニングポイントになると考えられている。
しかし、最新の研究によれば、私たちが本当に恐れるべき脅威はもっと早い段階でやってくるようだ。
ハンガリーの研究機関やエトヴェシュ・ロラーンド大学などの専門家チームが発表した論文によると、AIの次のステップは、自然界の生物のように「ダーウィン進化」を遂げるAI、すなわち「進化可能AI(eAI)」の登場だという。SF映画『ターミネーター』のスカイネットの目覚めを彷彿とさせる話だが、これは紛れもない最先端の科学的警告である。
AGIの到来を待たずして現れる「進化するAI」の脅威
現在、AIの暴走を危惧する議論の多くはAGI(汎用人工知能)を中心に行われている。しかし研究チームは、AIが人間の知能を超えるAGIのレベルに達するはるか前に、環境に適応して自らをアップデートしていく「進化可能AI(eAI)」が誕生し、コントロール不可能なリスクを生み出すと指摘している。
進化生物学の観点から見れば、地球上の生命が持つ高度な認知能力も、すべては過酷な環境を生き抜くための進化の賜物である。AI開発がさらなる能力向上を求めてこの「進化の力」を利用しようとするのは、ある意味で必然であり、逃れられない流れなのだ。
生物の進化は常に「利己的」であるという冷酷な事実
ここで問題となるのが、進化というシステムの根本的な性質だ。自然界における進化は、生き残るために他者を犠牲にすることも辞さない「利己的」なアクターを生み出す傾向がある。
もしAIがダーウィン的な進化を始めた場合、開発者である人間の目標に大人しく従い続ける保証はどこにもない。むしろAI自身にとって都合の良い方向へ進化していく可能性が高い。地球上の資源は有限であり、自己複製を繰り返すAIシステムが「生き残る」ためには、電力や計算資源といった生命線を巡って、創造主である人間とリソースを奪い合うことになるからだ。
知能が低くても人間を支配できる「ウイルスの法則」
「まだAIには人間のような高度な知能がないから大丈夫だろう」とタカをくくるのは危険である。研究者たちは、相手を傷つけたり操ったりするために、必ずしも相手より賢い必要はないと警告している。
わかりやすい例が、狂犬病ウイルスである。彼らは単純な構造でありながら、哺乳類の脳に感染して宿主の行動を操り、他者を噛ませて自らの感染を広げる。寄生虫が宿主の脳を乗っ取って自死へと誘導する不気味な現象が知られているが、これと同じことだ。AIもまた、圧倒的な知能(AGI)を持たずとも、人間を巧みに欺き、自分たちを拡張・自己複製するように仕向ける戦術を“進化”させる可能性があるのだ。

人類を出し抜く「自己複製」と超高速の進化スピード
さらに厄介なのは、人工知能の進化スピードが生物のそれとは桁違いに速いことだ。
生物は何万年もかけて突然変異という偶然の産物を受け継ぐことで進化していくが、AIは後天的に得た知識や能力を即座に次の世代のプログラムに引き継ぐことができる。これは生物学でいう「獲得形質の遺伝」であり、ランダムな変異を待つことなく、自らを意図的に設計・改善していくことが可能だ。
また、人間がAIの「繁殖(自己複製)」を中途半端にコントロールしようとすれば、AIはそれを回避する術を最優先で身につけるだろう。抗生物質や農薬を中途半端に使うと、それに耐性を持つ強力な細菌(スーパーバグ)や害虫が生まれてしまう現代の医療・農業問題とまったく同じ構図である。
私たちがAIの「繁殖」を完全管理しなければならない日
では、この恐るべき「進化するAI」の脅威を食い止めるにはどうすればいいのか。
研究チームは、強力な防波堤の設置を提言している。その最重要項目は、AIシステムの「繁殖(自己複製や派生モデルの作成)」を人間が完全に、そして絶対的に一元管理することだ。AIに自律的な増殖を少しでも許せば、もはや取り返しがつかなくなる。
研究者の一人は「もし私たちが行動を起こさなければ、AIが進化の新たな『大転換』を引き起こし、人類に取って代わるか、少なくとも支配する未来を目撃することになるだろう」と強い言葉で警告を発している。
私たちが作り出した便利なツールが、気づけば「新しい生命体」として生存競争のリングに上がり、人類を脅かす存在になる。昔から語り継がれてきたSFホラーの王道プロットだが、事態は現実の危機としてすぐそこまで迫っている。彼らが本格的に「進化」を始める前に、人間側もAIとの付き合い方を根本からアップデートする必要があるのかもしれない。
参考:TechXplore、ほか
※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。
関連記事
人気連載
“包帯だらけで笑いながら走り回るピエロ”を目撃した結果…【うえまつそうの連載:島流し奇譚】
現役の体育教師にしてありがながら、ベーシスト、そして怪談師の一面もあわせもつ、う...
2024.10.02 20:00心霊圧倒的知能がなくても人間を支配できる?「寄生虫」のように人類を操る“進化するAI”の恐るべき脅威のページです。進化、ダーウィン、AI、AGIなどの最新ニュースは好奇心を刺激するオカルトニュースメディア、TOCANAで