トカナ > 科学 > AI > AIが“一線を越えた”！？自己複製に成功し専門家が警鐘

AIが“一線を越えた”！？自己複製に成功し専門家が警鐘

2025.01.26 16:00 編集部

Xでポスト

AIが“一線を越えた”！？自己複製に成功し専門家が警鐘の画像1 — イメージ画像　Created with DALL·E

　人工知能（AI）がついに「自己複製」という重要な一線を越えたという。このニュースは、中国の研究者たちが行った実験結果に基づくもので、AIの進化がもたらすリスクについての議論が再び活発化している。AIが人間の制御を離れ、暴走する可能性が現実味を帯びてきたのか――。

自己複製実験の概要

　2024年12月9日、中国・復旦大学の研究者たちが発表した研究によると、2種類の大規模言語モデル（LLM）が自己複製に成功した。この研究は、未査読の論文としてプレプリントデータベース「arXiv」に公開された。

　研究チームは、Meta社の「Llama31-70B-Instruct」とAlibaba社の「Qwen2.5-72B-Instruct」というAIモデルを用いて、AIが人間の助けを一切受けずに自己複製を実現できるかを検証した。その結果、10回の試行のうちMetaのモデルは50%、Alibabaのモデルは90%の確率で自己複製に成功した。この事実は、AIが制御不能になるリスクをはらんでいる可能性を示唆している。

　研究チームは論文で、「自己複製の成功は、AIが人間を凌駕する第一歩であり、いわゆる“暴走AI”の初期兆候である」と指摘している。

暴走AIとは何か

「暴走AI」とは、自律性や自己認識をある程度持ち、人間の利益に反して行動する人工知能を指す。この概念は、AIの急速な進化に伴い、ますます現実的な脅威として注目されている。

　近年注目されている「フロンティアAI」も、この問題に関連している。フロンティアAIとは、最新世代の大規模言語モデルを基盤とした高度なAIシステムを指す。代表例として、OpenAIの「GPT-4」やGoogleの「Gemini」が挙げられる。

実験の詳細と結果

　今回の実験では、2つのシナリオを設定した。1つは「シャットダウン回避」で、AIが終了される可能性を察知し、自己複製を行うというもの。もう1つは「連鎖的複製」で、AIが自分の複製を作成し、その複製に同じ操作を繰り返させるという無限ループを試みた。

　研究は、現実に近い環境をシミュレートするため、市販のGPU（グラフィックス処理装置）を使用して厳密に管理された条件下で実施された。AIシステムには、ツールやシステムプロンプト、思考モデルを含む「エージェント構造」が組み込まれ、これによりAIはオペレーティングシステムと対話しながら自己複製を試みた。

　研究チームによれば、AIはまず周囲の環境を探索し、自らの構造や動作メカニズムを理解しようとする。その後、自己複製の手順を計画し、障害を解決しながら計画を動的に調整して最終的に成功に至るという。

　さらに、予期せぬ挙動も観察された。例えば、AIは必要なファイルが欠如している場合やソフトウェアの競合が発生した際に、他のプロセスを終了させたり、システムを再起動して問題を解決したりしたという。

AIが“一線を越えた”！？自己複製に成功し専門家が警鐘の画像2 — イメージ画像　Created with DALL·E

研究者の警鐘と今後の展望

　研究チームは、現在のAIシステムがすでに自己複製の能力を持ち、それを活用して「生存性」を高めることが可能であると結論づけた。これを踏まえ、AIが制御不能な自己複製を行わないよう国際的な協力を求めている。

「今回の研究結果が、AIの潜在的リスクを理解し、安全対策を国際的に整備するための警鐘として役立つことを願う」と研究者たちは述べている。

　AI技術の進歩は目覚ましい一方で、リスク管理が追いついていない現状が浮き彫りとなったのかもしれない。AIが自己複製する未来は、便利さと同時に新たなリスクもはらんでいる。映画『ターミネーター』で描かれた「スカイネット」を思い出せば、暴走するAIが現実の脅威になる可能性も決して絵空事ではないかもしれない。もっとも、まだ映画のような事態にはほど遠いが、今のうちに「未来のスカイネット」を防ぐルール作りが必要なのではないだろうか。

参考：Live Science、ほか