メインメニューをとばして、このページの本文エリアへ

AIで暴言排除 インスタ幹部が決意「いじめに断固として対抗」

ワークショップの参加者と写真を撮るインスタグラムの製品部門責任者、ビシャル・シャー氏=東京都港区で、2019年10月28日午後6時41分、山口朋辰撮影

 世界で月10億人、日本国内でも月3300万人のアクティブアカウントがある写真共有アプリ「インスタグラム」。多くの若者にコミュニケーションツールとして支持される一方、いじめに使われる事例も相次ぐ。そこで、インスタグラムを運営するフェイスブック社は、相手を傷付ける恐れのあるコメント送信をやめるよう促すなどの対策を取り入れた。来日したインスタグラムの担当幹部2人が記者会見し「オンラインのいじめに断固として対抗し、安心して利用できる自己表現の場を保っていく」と話した。【山口朋辰/統合デジタル取材センター】

 インスタグラムは7月から、人を傷つける可能性があるコメントをAI(人工知能)が特定し、入力したユーザーに通知して送信を考え直させる機能をテスト導入した。

 28日に東京都内で記者会見したインスタグラムの製品部門責任者のビシャル・シャー氏は「脅威」「侮辱」「裏切り」「望まないやり取り」に関連する言葉をAIに学ばせ、事例を蓄積することで、いじめ投稿の検知を高めていると説明。さらに、「レビュアー」と呼ぶ世界の計1万5000人による人間の目も使って、24時間体制でチェックしていることを説明した。

 一方、同じく会見した公共政策部門責任者のカリナ・ニュートン氏は、判断を誤るケースが「10回に1回はある」と明らかにした。例えば「ブス」との単語をAIが検知したが、美容院に行ったものの髪形が気に入らなかった女性の投稿だったケースがあったという。「間違いが再び起こらないように(AIもレビュアーも)トレーニングしている」と、ニュートン氏は話した。

 10月からは、指定した相手についてコメントの表示を制限したり、DM(ダイレクトメッセージ)の既読が相手に表示されなくなったりするなどの仕組みも導入した。いじめの被害者が加害者に悟られることを恐れてブロックやフォロー解除をしたがらないことに対応したという。

 イ…

この記事は有料記事です。

残り805文字(全文1605文字)

山口朋辰

1979年横浜市生まれ。神奈川新聞社を経て2004年入社。神戸支局、豊岡支局、大阪社会部、中部報道部を経て、19年春から統合デジタル取材センター。世の中の喜怒哀楽を発信していきます。

おすすめ記事
広告
毎日新聞のアカウント
ピックアップ
話題の記事

アクセスランキング

毎時01分更新

  1. 猛毒「フッ化水素酸」か、こぼれ異臭 東京・秋葉原の路上、けが人なし

  2. ボーガン?4人撃たれ2人死亡 親族の23歳を殺人未遂容疑逮捕 兵庫・宝塚

  3. 岐阜、長野、茨城……相次ぐ地震の原因は、南海トラフとの関連は 気象庁に聞いた

  4. 愛知知事リコール運動 大阪・松井市長、賛同の吉村知事に苦言「県民が判断」

  5. 兵庫ボーガン事件 同級生「容疑者は明るく優しい子」 矢が刺さった女性に現場騒然

編集部のオススメ記事

のマークについて

今週のおすすめ
毎日新聞社は、東京2020大会のオフィシャルパートナーです