TOCANA > 日本 > 陰謀論・政治 > “人工知能”は人間を殺さない／苫米地英人

「“人工知能”は人間を殺さない。殺しに来るのはプログラマー」トップAI研究者苫米地英人が語るシンギュラリティの真実（康芳夫・対談）

2016.12.20 18:00

　脳科学者・苫米地英人氏と、“昭和の暗黒プロデューサー”康芳夫氏による対談はいよいよAIの話題へ。

　現在は「第三次AIブーム」といわれ、『ディープラーニング』を応用したGoogle社開発のAIがプロ棋士と対戦し、AIが圧勝したと話題になっている。“人間を追い抜いた人工知能に襲われる”という、かつてのSF小説の定番プロットが目前であるかのように報道される現在、1980年代に人工知能研究開発の最先端にいたというドクター苫米地に、その真相を聞く。

【対談まとめはコチラ】

「人工知能は人間を殺さない。殺しに来るのはプログラマー」トップAI研究者苫米地英人が語るシンギュラリティの真実（康芳夫・対談）の画像1

左・苫米地英人、右・康芳夫

康　「このまま『人工知能』が発達していくと、AIは暴走するようになるのでしょうか？」

苫　「1980年代から『人工知能』（の研究）を本気でやった人たちは、恐らく世界で30～50人くらいしかいないと思います。そのうちのひとりに僕は間違いなく入ってる。最初の人工知能プロジェクトを行ったのは、イェール（大学）で、僕はそこにいたからね（※1985年にイエール大学大学院計算機科学科博士課程（人工知能）入学）。その後は、カーネギーメロン（大学）が人工知能研究の最先端としてずっとやってきてるんだけど、僕はそこでドクター取ってるわけだ（1993年にカーネギーメロン大学大学院博士課程修了）。その僕から言わせてもらうと、“みんなが人工知能って言ってるのは、人工知能じゃない”ということ。あれは“ビジネス用語”だから」

康　「“ビジネス用語じゃない人工知能”ってなんですか？」

苫　「まだできていないです。もちろん、それもずっと私達の頭の中にはありますよ」

康　「それはどういうものですか？」

苫　「それは、《生殖行為をしないで誕生した人間》ですよ。我々人間が人工的に作る人間ということ。見た目はサイボーグである必要はなくて、コンピュターの中でもいい。知能があるからプログラム内で勝手に自己操縦する」

康　「それは“人間が作る人工頭脳”ってことですよね？」

苫　「そういうこと。知能があるわけです」

康　「でもそれは当たり前っちゃ当たり前だね」

「人工知能は人間を殺さない。殺しに来るのはプログラマー」トップAI研究者苫米地英人が語るシンギュラリティの真実（康芳夫・対談）の画像2

苫　「でも、今みなさんが言ってる『人工知能』は『人工知能』じゃなくて『ディープラーニング』だからね。脳神経網に見られる数理的な特性を計算機上のシミュレーションによって表現することを目指した数学モデルのことをニューラルネットワーク（人工神経回路網）というんだけど、『ディープラーニング』はそれが8層など多層構造になっている。それをみんなは人工知能だと呼ぶんだけど、そんなのはただの統計処理だからね。IBMの『ワトソン』はコンピューターでありながら、情報から学び、経験から学習するとか言われているけど、それでもただの統計処理に過ぎない。確かに、僕らが1980年代に研究してた時と比べると、今のCPUは1億倍速い。1億倍早いCPUだったら、当時からある色々な知識処理のモデルを同時に100個ぐらい並列で走らせることができる。ディープラーニングの方も、理論そのものは80年代に僕らが作ったものから変わっていない。当時3層だったものが8層に増えただけで、元々人工知能とは呼べないものなんです」

――基本的には、計算速度が滅茶苦茶速くなっただけなんですね。

「人工知能は人間を殺さない。殺しに来るのはプログラマー」トップAI研究者苫米地英人が語るシンギュラリティの真実（康芳夫・対談）の画像3

苫　「そんなものを『AI』って呼ぶ方が間違ってる。だから、それを怖がってる人たちは、ホーキング博士を含めて本当に無知ですよ。本当に怖いのは、その後ろで動いてるプログラマーが悪いことをするかどうかですからね。いろんなことを機械が制御するようになるわけだから、プログラマー次第では超怖いことになる」

――現状では、よく映画などに描かれている“コンピューターの暴走”はありえないということですね？

苫　「もちろん。人工知能はプログラムした通りにしか動かないから。とはいえ、今後は全世界の金融をほんの3人ぐらいのプログラマーが人工知能を使って動かすわけですから、それはそれで超怖いわけなんだけど、悪いのは人間なんです」

康　「人工知能は、プログラマーがプログラムした通りにしか、動かないんですか？」

苫　「ええ、動かないです。“プログラムした”といっても、あくまでも統計処理ですからね。お掃除ロボットも“隣の家に行った時はどうやって掃除するか”なんて、あらかじめプログラムできないじゃないですか。できるのはせいぜい“ぶつかったら戻れ”ぐらいのプログラムですよ。つまり、プログラマーは《限られた空間で、どう動くのか》をプログラムしているわけで、元のルールはプログラマーが決めてるんです」

康　「それはおもしろいねえ。たとえばね、碁で人間とコンピューターが勝負する時、相手である人工知能は、全部プログラミングされた範囲内でしか動けないわけ？」

苫　「ルールの中では自分で学習するんで、碁のすべての手をプログラムしなくても自分で強くなっていきますよ」