トカナ > 科学 > AI > AI研究の権威が語る“破滅への道”と我々が失ったもの

「OpenAIが設立された日、人類の滅亡を悟った」― AI研究の権威が語る“破滅への道”と我々が失ったもの

2025.10.26 16:00 文＝深森慎太郎

Xでポスト

「OpenAIが設立された日、人類の滅亡を悟った」― AI研究の権威が語る“破滅への道”と我々が失ったものの画像1 — Image by Kohji Asakawa from Pixabay

「OpenAIが設立された日、私は、人類がおそらくこれで生き残れないだろうと悟った」。そう語るのは、AI研究の世界的権威であり、「機械知能研究所（MIRI）」の創設者、エリエザー・ユドコウスキーだ。彼は、AIが人類の価値観と一致するように設計する「アライメント問題」の第一人者として知られる。そんな彼がなぜ、これほどまでに絶望的な未来を予測するのか。その言葉は、AIの未来を楽観視する我々に冷や水を浴びせる。

善意と傲慢、そして“結果への盲目”―歴史は繰り返す

　ユドコウスキーは、決してAIの進歩そのものを否定しているわけではない。テクノロジーが人類の生活を豊かにしてきたことは、彼も認めている。しかし、同時に、人類が「傲慢さ」によって、繰り返し破滅的な過ちを犯してきた歴史も、彼は忘れてはいない。

「かつて人々は言った。『スーパーインテリジェンス（超知能）は、インターネットから切り離した箱の中に入れておけば制御できる』と。しかし、現実を見てみろ。誰もが、開発中のAIをすぐにインターネットに接続し、ネット上の膨大なデータで訓練しているじゃないか」

　彼は、AI開発の現場で起きている、恐るべき矛盾を指摘する。安全性を確保するためにAIを“箱”に閉じ込めるという理想とは裏腹に、より高い性能と利益を求める競争の中で、AIは野放図にインターネットと接続され、ますます強力で予測不能な存在へと進化しているのだ。

「より扱いやすく、安全なAIは、利益が少ない。だから、すべてのAI企業は、より困難で、より収益性の高い問題にAIを挑戦させる。あらゆる問題を強引に解決するAIを構築することが、最も手っ取り早くて儲かる方法だからだ」

　輝かしい才能、人類を豊かにしたいという善意、そして、その行為がもたらすであろう壊滅的な結果に対する、完全な盲目。ユドコウスキーは、AI開発の最前線に、歴史が何度も繰り返してきた、破滅へのパターンを見ているのだ。

“ゆっくり考える”ことの価値―加速する世界への抵抗

　AIがもたらすのは、本当に生産性の向上や効率化だけなのだろうか。長期成長株への集中投資で知られる米投資運用会社「ナイトビュー・キャピタル（Nightview Capital）」のエリック・マーコウィッツは、その風潮に疑問を呈する。「AIを使って、いかに速く動くかではない。むしろ、いかに“ゆっくり考える”かを学ぶことが重要だ」と。

　彼は、AIによる要約や分析を自身の投資プロセスに取り入れつつも、それ以上に、実際に現地へ赴き、人々と対話し、製品を使い、そのエコシステムに身を投じる「フィールドリサーチ」の時間を増やしているという。「AIが決して再現できない、生身の会話の中にこそ、本当の価値がある」と彼は語る。

　加速し続ける世界の中で、あえて立ち止まり、観察し、より良い問いを立てること。それが、AI時代を生き抜くための、人間ならではの“エッジ（強み）”なのかもしれない。