Facebookが“自殺しそうな人”の書き込みを発見するAIを開発！命を救うのはトモダチではなく、AIの時代

2017.04.03 16:00 文＝佐藤Kay

　英紙「Daily Mail」(3月4日付)によれば、Facebookがある目的を果たすために画期的なシステムを導入したと伝えている。なんと、人工知能（AI）を利用して自殺を未然に防ぐというのだ。

■Facebookが自殺予備軍を発見するAIを開発

　WHOの発表によると、世界では40秒ごとに1人が自らの命を断っているという。Facebookはこれまで、自殺防止のためにさまざまな機能を実装してきた。ビデオやメッセンジャーの他、自殺の兆候を示しているユーザーに対して、サイトのボタンをクリックするだけでFacebookに、“友人としての憂慮”を通報することができるまでになっている。その後の動きとしては、今までは人による介入が不可欠だったのだが、今回、その一連の流れをさらに向上させた結果、AIの登場となったようだ。

　AIが、どうやって人生の瀬戸際にいる人を判別するかといえば、Facebookのアルゴリズムを使い、悲嘆に暮れる投稿、それに対する友人らからの安否を気遣うコメントを分析して察知するのだという。自殺の危険が極めて高いと分析された場合、Facebookのヘルプセンターから直接、ユーザーの友人や専門家、または自殺防止のホットラインへつなぐなど実際的な連携プレーが取られるという。

Facebookが自殺しそうな人の書き込みを発見するAIを開発！命を救うのはトモダチではなく、AIの時代の画像1

　「Daily Mail」の記事より

　現在はまだ、AIに自殺と関連付けがなされた映像やイメージ、投稿のパターンを学習させている段階だそうで、アメリカのみでの試験的運用にとどまっている。

　また、Facebookが自殺防止ツールを強化する背景には、今年1月、アメリカで12歳の少女がFacebook Liveを使い、自らの自殺の一部始終をライブ配信した事件が影響していると伝えられている。同社がFacebook Live上で自殺者が増えることを危惧して、責任追求を避けるために講じた自衛策なのではと考える向きもあるようだ。

■Facebookが英版“命の電話”と協働

　なお、自殺願望のある人や絶望している人の声なき声に耳を傾けるイギリスのボランティア組織「サマリタン」では、広報担当リンジー・ポーランド氏がFacebookとの協働について次のように声明を発表している。

「インターネット上でユーザーの命の安全を守ることにコミットすることは、本当に素晴らしいと思います。我々サマリタンも協力して、イギリス国内でも同様のシステムを導入するよう推進したいと思います」（リンジー・ポーランド氏）

　いずれにせよ、可能な限り多くの人命を救助することが目的で導入された強力な自殺防止ツールになることには間違いないといえそうだ。しかし、友人たちとFacebookでつながっているにもかかわらず、人間ではなく人工知能に命を救われるという心持ちはどんなものだろう。まずもって、様子がおかしい友人に自らコンタクトせず、Facebookに「トモダチが自殺しそうなんですが」とクリックするという既存の通報システムからして、なんとなく違和感を覚える。これには、第三者が介入することによって、独り苦悶しているユーザーが、冷静さを取り戻す効果があると期待しているのかもしれないが…。

　人間ではなく、AIが自殺の食い止め役を担う時代――。本人たちも知らぬ間に、自殺未遂の兆候が察知され監視されるとなれば、制御される完全なる管理社会に取り込まれていくような恐怖を感じるのは、考えすぎだろうか。
(文＝佐藤Kay)

参考：「Daily Mail」、「The Guardian」、ほか