>  >  > AIが「ネット自殺ほのめかし」を検知
シリーズ「AIと医療イノベーション」第22回

  • このエントリーをはてなブックマークに追加
  • コメント0
関連キーワード:

【健康・医療情報でQOLを高める~ヘルスプレス/HEALTH PRESSより】

FacebookでAIが「ネット自殺」ほのめかしを検知!警察や自殺防止ホットラインなどに通報の画像1
FacebookでAIが「ネット自殺ほのめかし」を早期発見(http://jp.depositphotos.com)

 米Facebookは11月27日、「ネット自殺」をほのめかすコメント投稿やライブビデオ投稿をAI(人工知能)を使って検出し、モデレーター(調停者)である専門対策チームに報告する活動を、プライバシー関連法が参入障壁になるEUを除く世界各国で始動したと発表した(「ITmedia」2017年11月28日)。

米国ではAIが1カ月間で約100件以上の「ネット自殺ほのめかし」投稿を報告

 米Facebookは、2011年から自殺防止対策に取り組み、問題のある投稿をFacebookの専門対策チーム(Community Operationsチーム)に報告し、報告されたユーザーにアドバイスメッセージを表示してきた。

 従来は、友達などの第三者からの報告に基づくアクションだったが、今後は、AIのパターン認識技術を活用し、ネット自殺をほのめかす投稿をいち早く検知し、専門チームに通報できるので、より迅速に自殺の危険性の高いユーザーにアクセスし、接触しやすくなる。

 AIがチェックするのはコメント投稿だけでなく、ライブビデオのコメントも対象だ。たとえば、ライブビデオのコメントに「Are you OK?”(大丈夫?)や「Do you need help?(助けが必要?)」などのコメントがあれば、AIが直ちに探知し、対策チームに速報する。

 AIは支援対象の優先度も判断できるため、報告された投稿をパターン認識によってさらに精確に解析し、緊急性の高い投稿のレビューを優先するように対策チームに速報する。リスキーな緊急事態に即応するトリアージ機能だ。

 また、チームメンバーが個々の投稿のどの部分が問題かを迅速に判断できるように、AIがコメントが集中しているビデオの部分を的確に明示する。

 米国では、AIが1カ月間で約100件以上の投稿を対策チームに報告している。対策チームは7500人以上が世界中から寄せられた報告に24時間体制で対処している。FacebookはAIのシステムの最適化とともに、偽陽性(ニセ情報や誤報)の回避に努めていくとしている。

「命から命へのSNS」へシフトアップしたFacebookの重大ミッション

 このエポックの意義は重い。なぜなら、Facebookが単にAIにコンテンツをスキャンさせ、自殺防止・通報機能を肩代わりさせたのではなく、Facebookのミッションが「Face to face(人から人へのソーシャルネットワーク)」から「Help to help(命から命へのソーシャルネットワーク)」へシフトアップしたように見えるからだ。

 つまり、Facebookが構築しているソフトウェア・テクノロジーがコネクション・テクノロジーから命を救うためのテクノロジーへとブレークスルーしたと言い換えてもいいだろう。

 もう少し精確にシステムの流れを整理してみよう――。

関連キーワード

コメントする

お名前
コメント
画像認証
※名前は空欄でもコメントできます。
※誹謗中傷、プライバシー侵害などの違法性の高いコメントは予告なしに削除・非表示にする場合がございます。