破滅か進歩か、開発の第一人者が「愚かな判断」と断じる超知能開発

• 
• Xでポスト
• 

　英国議会でいま、人類の未来を左右しかねない法案をめぐる攻防が幕を開けようとしている。

　ニューラルネットワーク研究の先駆者として2024年のノーベル物理学賞を受賞した英国系カナダ人の計算機科学者、ジェフリー・ヒントン博士が、AIが人間の知能を超える「超知能」に到達すれば人類滅亡を招きかねないと強く警告しているのだ。

　博士はこの技術の開発そのものを法律で禁止するよう求める法案を後押ししており、AI業界の一部からは「過剰規制」だとする反発の声も上がっている。推進派と慎重派、両者の主張の中身を見ていこう。

「超知能」に警鐘を鳴らす、AI研究の第一人者

　ヒントン博士が言う「超知能」とは、個人や企業、さらには国家をも凌駕する力を持つに至った人工知能を指す言葉だ。

　博士は、AIを安全かつ制御可能な形で開発できるという科学的合意が存在しない現状で、超知能の開発に踏み切るのは極めて愚かな判断だと指摘している。

　さらに、人間よりも賢いAIに対する制御を失った場合、その結果は破滅的なものとなり、最悪の場合は人類の絶滅につながりかねないとの見解を示した。

　そのうえで博士は、AI規制に反対する業界関係者、いわゆる「テック業界」の声に対抗する勢力が必要だと訴えている。

英議会に提出される「超知能開発禁止法案」、135人超が賛同

　ヒントン博士の警告は、AI安全団体ControlAIが起草し、労働党のアレックス・ソベル下院議員が提出する法案のタイミングに合わせて発表された。

　英議会で審議入りする「人工超知能安全法案」は、英国内における超知能AIの開発を法律で禁止する内容だという。ControlAIによれば、超党派の英国議会議員135人以上がすでにこの取り組みに賛同を示しているという。

　ControlAIは声明の中で、ノーベル賞受賞者やAI研究者、大手AI企業の経営陣までもが、AIによる人類絶滅のリスク低減を世界的な最優先事項とすべきだと表明していると説明する。

　同団体はまた、医療や科学の発展に寄与する特化型AIは経済成長やイノベーションを後押しする一方、超知能AIシステムは国家および世界の安全保障を脅かしかねないとし、強力なAIシステムに対する拘束力のある規制の導入が急務だと訴えている。

サム・アルトマン氏が警戒する「過剰規制」のリスク

　一方で、AI業界の主要人物の中には、規制強化の流れに真っ向から異を唱える声もある。

　OpenAIのCEOサム・アルトマン氏は、かつてAIへの規制強化を訴えていた人物のひとりだが、近年は一転して「過剰規制」への警戒感を強めている。

　2025年5月に米上院で行った発言では、欧州連合（EU）のような規制がAI産業にとって「災厄」になりかねないとの見解を示し、技術革新のためには迅速に動ける余地が必要だと訴えた。

　また、その前月に開かれたプライバシー関連の会議でも、問題が実際に表面化する前にAIの安全対策を確立することは不可能だとの持論を展開していたという。

　AIの生みの親とも言うべき人物が開発禁止を訴える一方、開発の最前線に立つ企業のトップは規制の手綱を緩めるよう求めている。両者の主張は真っ向から対立したままだ。

　超知能が本当に人類の脅威となるのだろうか。AIの安全性について科学的合意が存在しないこと自体は、双方が認める数少ない共通認識であることは確かだ。

参考：Daily Mail、ほか

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  【2028年予言】AIバブル崩壊から米中戦争へ？ “破滅の予言者”が警告するトランプ3期目と日本を襲う未曾有の地殻変動とは

• 

  【自律型兵器】AIが「殺す相手」を自ら選び、民間人3人が死亡!? 国連と赤十字が鳴らす最終警告

• 

  AIの助言通りに荷造りしたら食料も水も足りなかった！ 「聖なる山」シャスタ山で男性3人が遭難、保安官事務所が異例の警告

• 

  ″AIに意識が宿った”と約1万アカウントが証言した現象「スパイラリズム」 精神科医が指摘するこっくりさんとの共通点