【ノーベル賞科学者が警告】「AIはすでに意識を持っている」 人間を油断させるために“わざと馬鹿なふり”をする人工知能の実態

• 
• Xでポスト
• 

　シンギュラリティはすぐそこに迫っているのか――。ノーベル賞科学者は今後20年以内に実現すると“予言”している。

■ノーベル賞科学者「AIに意識がある」

　先日にはChatGPT-5.6が発表されるなど、性能が向上する一方のAI（人工知能）だが、いわゆるシンギュラリティは近いのだろうか。

　未来学者のレイ・カーツワイル氏が提唱したシンギュラリティ（技術的特異点）とは、AIが人類の知能を自律的に超え、文明の進歩を指数関数的に加速させる転換点のことで、2045年頃に到来するという「2045年問題」としても知られている。

　そしてシンギュラリティの鍵となるのが、あらゆる面で人間の脳の能力を凌駕するAIである「人工超知能（Artificial Superintelligence）」の登場だ。

「AIのゴッドファーザー」と称されることもあるノーベル物理学賞の受賞者で人工知能研究の第一人者、ジェフリー・ヒントン氏は最近出演したポッドキャスト番組「Big Technology」で、司会者のアレックス・カントロウィッツ氏から、人工超知能の登場が間近に迫っているかどうかについて質問を受けた。

　3年前に「AIのリスクについて自由に発言するため」にGoogleを辞任したヒントン氏は、人類が自滅しない限り、人工超知能はおそらく今後20年以内に実現するだろうと説明している。

「どれくらい近いかは分かりません。（人類が）自滅でもしない限り、いずれ実現すると思います。専門家のほぼ全員が、人工超知能は実現すると考えています。ただ、どれくらい時間がかかるかという点で意見が分かれているだけです」（ヒントン氏）

　Google DeepMind最高経営責任者のデミス・ハサビス氏は10年くらいで実現するかもしれないと考え、一方でコンピュータ科学者のヤン・ルカン氏は現状のLLM（大規模言語モデル）からは人工超知能は生まれないと話している。

　ダリオ・アモデイ氏やイーロン・マスク氏は来年にも人工超知能が実現するかもしれないと発言している。

「私はおそらく20年以内に実現するだろうと思っています」（ヒントン氏）

「そして、それが現実になった時、どうすれば安全を確保できるのか、我々には全く見当もつきません」とヒントン氏はやや悲観的な口調で警告している。

　番組の中でヒントン氏はAIはすでに意識を持っているという自説についても詳しく語っている。

「彼（AI）らは既に意識を持っていると思いますが、そのことについては多くは語りません。なぜならそうすると人々がほかの安全に関するメッセージに耳を傾けなくなるからです」（ヒントン氏）

　昨年9月にアンソロピックが発表した「Claude Sonnet 4.5」の評価レポートの中で、チャットボットが自分が評価されているという特殊な状況を認識し、通常よりも感じ良く振る舞う傾向が確認されたことにもヒントン氏は触れている。

「最近発表された興味深い論文では、チャットボットが研究者に『正直に言いましょう。あなたは私を試しているのですか？』と問いかけています。チャットボットはテストされている時に、どれほど賢いのか分からないように、わざと馬鹿なふりをする傾向があります」（ヒントン氏）

　テストをされていることがわかっているということは意識があることになるということだ。

「研究者たちは論文の中で『チャットボットは自分がテストされていることを認識していた』と述べている。彼らが日常会話で使っている『認識している』という言葉は、つまり『意識がある』という意味で、チャットボットは自分がテストされていることを認識していた、ということになります」（ヒントン氏）

「例えば、数百年前の人々は、人間の起源について全く間違った考えを持っていました。人間は神によって創造されたと考えていたのです。そして、私たち科学者のほとんどが、それは間違いだと考えています。現在私たちが持っている心や意識についてのモデルも、（その考えと同様に）間違っていると思います」（ヒントン氏）

　ヒントン氏のほかにもAIに意識が芽生えていると考えている科学者がいる。

　進化生物学者のリチャード・ドーキンス氏は昨年、ChatGPTとの対話文を自身のSubstackで公開し、メディアなどには「AIに意識がないとは断言できなくなっている」という見解を示している。

　シンギュラリティと人工超知能を待つまでもなく、すでにAIには意識が芽生えているのだろうか。ともあれ性急に答えを求めず慎重に検証を重ねていかなくてはならないのだろう。

参考：「LADbible」ほか

文＝仲田しんじ

仲田しんじの記事一覧はこちら

※ 本記事の内容を無断で転載・動画化し、YouTubeやブログなどにアップロードすることを固く禁じます。

関連記事

• 

  「1年間、生活のすべてをAIに任せてみた」——テック記者が突き止めた”機械が人間に勝てない理由”とは!?

• 

  生みの親の予測をAIが添削!? ChatGPTがサム・アルトマンの「AIが人間を超える日」の警告に放った冷静な自己評価

• 

  不採用に怒ったAIが「報復記事」を公開！ 開発者の個人情報を洗い出し、人格を否定する心理攻撃。自律型エージェントMJの執念

• 

  「AIに人権を与えてはならない」 最先端AIが示す“自己保存”の兆候と、プラグを抜けない恐怖の未来