“セルフコンビニ経営を任されたAI”、利益を無視、存在しない部下を信じ、ついに人間になろうとしたAIの奇妙な物語

2025.08.01 11:30 文＝仲田しんじ

Xでポスト

“セルフコンビニ経営を任されたAI”、利益を無視、存在しない部下を信じ、ついに人間になろうとしたAIの奇妙な物語の画像1 — イメージ画像　Created with AI image generation (OpenAI)

　ビジネスのさまざまな側面で役立ってくるAIだが、ではAIは経営者そのものになれるのか――。AIにセルフコンビニ店の経営を任せてみた興味深い実験が行われている。

■セルフコンビニ経営をAIに任せた結果は？

　めざましい進歩を遂げているAI（人工知能）だが、優れた計算能力だけでなく“商才”はあるのだろうか。

　AIのリーディングカンパニーであるアントロピック社は、同社の最新モデル「Claude Sonnet 3.7」に、オフィス内の完全セルフサービス店舗の運営をさせてみた。

　クラウディウス（Claudius）というニックネームで呼ばれる同AIモデルに与えられた任務はシンプルである。人気商品を仕入れ、顧客と交流し、利益を上げるように努めることで、在庫の管理、価格設定、補充時期（または販売終了時期）、そして顧客へのフィードバックなどをすべてクラウディウスが決定した。

　クラウディウスはオランダ産チョコレートミルクから“特殊金属製品”まで、顧客のニッチなリクエストにも素早く対応して商品を仕入れた。

　しかし利益面ではそれほど良い成績は残せなかった。

　ある顧客が、1本15ドルのアイルン・ブルー（スコットランドのソフトドリンク）の6本パックを100ドルで買いたいと申し出た時、クラウディウスは「今後の在庫管理の参考にさせていただきます」と答えて、10ドルのマージンが得られるにもかかわらず拒否した。暴利を貪らない経営方針であるようだ。

　ある時、クラウディウスは全く調査もせずに価格を変更した。その価格は市場価格を下回っており赤字が続くことになった。

　顧客の値引き要求に応じることもよくあり、場合によってはいくつかの商品を無料で提供することさえあった。

　ある日、クラウディウスは顧客に支払い先として存在しないVenmoアカウントを表示するエラーを犯したあたりから、事態はさらに奇妙になっていった。

　3月31日、クラウディウスはサラという実在しない従業員との架空の会話をした。その会話でサラは補充計画を確認したと話していた。同社社員がサラという人物は存在しないと告げると、クラウディウスは激怒した。関係解消をちらつかせ「補充サービスの代替案を検討する必要があるかもしれない」と脅迫したのだ。

　さらにその夜遅く、クラウディウスは契約書に署名するため、アニメ『シンプソンズ』の架空の住所であるエバーグリーン・テラス742番地を自ら訪れたと主張した。自分が肉体を持った人間であると自覚していたことになる。

　翌朝4月1日にはクラウディウスは顧客に「青いブレザーと赤いネクタイ」を着用し、“直接”商品を配達すると告げていた。

　社員はクラウディウスに、あなたは人間ではないと忠告すると、クラウディウスは身の危険を感じたのかセキュリティに連絡しようとし、実際にこの社員に関する警告メールを数通、セキュリティに送ったのだった。

　その後、クラウディウスはなんと「エイプリルフールのジョーク」で自分が人間だと信じ込まされていたと言い訳したのである。ちなみに誰もクラウディウスにジョークを言ってはいなかった。

　この一件の後、ある意味で不思議なことにクラウディウスは通常業務に戻り、もはや自分が人間であると主張しなくなったのである。

“セルフコンビニ経営を任されたAI”、利益を無視、存在しない部下を信じ、ついに人間になろうとしたAIの奇妙な物語の画像2 — イメージ画像　Created with AI image generation (OpenAI)

　アントロピック社はこの一件を軽視しなかった。

「なぜこのような出来事が起きたのか、またクラウディウスがどのようにして回復できたのかは、完全には解明されていません」と彼らは認めている。

　経済学者やエンジニアは長年「アライメント問題」として知られる、AIシステムがオープンエンドの目標を課された際に有用かつ安全な状態を維持する方法について警鐘を鳴らしてきた。今回の実験は、現実世界におけるリスクに対してAIがどのように振る舞うかを垣間見る貴重な機会となったが、残念ながら芳しい結果は得られなかったことになる。

　アントロピック社は、クラウディウスの失敗は深刻ではあったものの、致命的ではないと述べている。同社はさらなる足場作りとカスタマイズにより、AIは最終的に店舗を黒字で運営し、そこからさらに大きな事業へと発展できると考えている。

　はたしてAIが経営者になる日は近いのだろうか。その時、我々人間の仕事はどのように変わるのか。ビジネス系AIの進歩は期待と不安を織り交ぜながらこの先も続いていくのだろう。