トカナ > 予言・予知 > 162年前に「予言されたAIの脅威」羊飼いが警告した機械進化の未来

162年前に「予言されたAIの脅威」羊飼いが警告した機械進化の未来

2025.01.12 20:00 編集部

Xでポスト

162年前に「予言されたAIの脅威」羊飼いが警告した機械進化の未来の画像1 — イメージ画像　Created with DALL·E

　現在、AIの台頭についての議論は現代的な課題と見なされがちだが、この懸念が初めて提起されたのは1860年代にまでさかのぼる。驚くべきことに、その発端はニュージーランドの羊飼いであるサミュエル・バトラーという人物によるものであった。

機械の進化を警告した歴史的な手紙

　1863年6月13日、ニュージーランド・クライストチャーチの新聞『The Press』に掲載された「Darwin among the Machines（機械の中のダーウィン）」と題する手紙は、機械の進化がもたらす潜在的な脅威を警告した。執筆者のバトラーは、チャールズ・ダーウィンの進化論を機械の発展に適用し、機械が意識を持ち、人類を凌駕する未来を予測した。

　彼は手紙の中で次のように述べている。

「我々は、自らの後継者を作り出している。我々が日々その肉体をより美しく、精巧に仕上げ、知性をもたらすことで、人類が知性を得たと同様の自己調整機能を機械に与えているのだ」

　バトラーは、機械が進化を遂げ、人間がその保護者から従属者へと変わる可能性についても言及した。この関係性を、かつて人類が馬や犬と築いた関係にたとえ、機械が人類を「親切に扱う」だろうと予測した。

19世紀の予測が示唆する現代のAI論争

　バトラーの警告は、現代のAIに関する懸念と多くの共通点を持つ。彼が1863年に予測した「機械意識」や「自己複製」、そして「人間の制御喪失」は、現在AI開発における主要な議論の一部である。

　2023年、OpenAIのGPT-4がリリースされた際には、AIの「パワーシーキング行動（力を求める行動）」について懸念が広がり、世界的なAI開発の一時停止を求める公開書簡が話題を呼んだ。バトラーが19世紀に描いた未来像は、こうした現代の懸念と見事に重なり合う。

　彼の手紙はまた、1872年に発表された小説『エレホン』でさらに掘り下げられ、そこで描かれる社会は機械の発展を禁じた世界であった。これは、AI規制を求める現代の政策提案を予見しているかのようだ。

162年前に「予言されたAIの脅威」羊飼いが警告した機械進化の未来の画像2 — 画像は「Amazon」より

バトラーのビジョンが現代に与える教訓

　バトラーが予測した未来は、当時の技術水準を考えると驚くべきものである。1863年当時、計算装置は機械式の計算機やスライドルール（計算尺）に過ぎず、コンピューターは存在しなかった。それにもかかわらず、彼は産業革命による機械の進化から、現代のAIを連想させる未来像を描き出したのだ。

　バトラーの言葉は今もなお現代人に警鐘を鳴らす。

「日々の暮らしの中で、機械はますます人類を支配し、我々はそれに従属していく」

　彼は機械が完全に人類を支配する前に破壊すべきだと提案した。しかし、すでに機械に依存している人類には、それが不可能である可能性も示唆していた。

　バトラーの主張は、技術の進歩と人類の監視のバランスを取る難しさを浮き彫りにしている。現代においても、彼が提起した問題は依然として解決されていない。人類が機械とどのように向き合うべきかという問いは、我々の未来において避けて通れない課題であろう。バトラーの警告は、科学技術の進歩を慎重に見つめる上で、160年以上が経った今なお重要な教訓を含んでいるかもしれない。

参考：Ars Technica、ほか