メインメニューをとばして、このページの本文エリアへ

AIで暴言排除 インスタ幹部が決意「いじめに断固として対抗」

ワークショップの参加者と写真を撮るインスタグラムの製品部門責任者、ビシャル・シャー氏=東京都港区で、2019年10月28日午後6時41分、山口朋辰撮影

 世界で月10億人、日本国内でも月3300万人のアクティブアカウントがある写真共有アプリ「インスタグラム」。多くの若者にコミュニケーションツールとして支持される一方、いじめに使われる事例も相次ぐ。そこで、インスタグラムを運営するフェイスブック社は、相手を傷付ける恐れのあるコメント送信をやめるよう促すなどの対策を取り入れた。来日したインスタグラムの担当幹部2人が記者会見し「オンラインのいじめに断固として対抗し、安心して利用できる自己表現の場を保っていく」と話した。【山口朋辰/統合デジタル取材センター】

AIと1万5000人がチェック

 インスタグラムは7月から、人を傷つける可能性があるコメントをAI(人工知能)が特定し、入力したユーザーに通知して送信を考え直させる機能をテスト導入した。

 28日に東京都内で記者会見したインスタグラムの製品部門責任者のビシャル・シャー氏は「脅威」「侮辱」「裏切り」「望まないやり取り」に関連する言葉をAIに学ばせ、事例を蓄積することで、いじめ投稿の検知を高めていると説明。さらに、「レビュアー」と呼ぶ世界の計1万5000人による人間の目も使って、24時間体制でチェックしていることを説明した。

既読表示をしないなどの対応も

 一方、同じく会見した公共政策部門責任者のカリナ・ニュートン氏は、判断を誤るケースが「10回に1回はある」と明らかにした。例えば「ブス」との単語をAIが検知したが、美容院に行ったものの髪形が気に入らなかった女性の投稿だったケースがあったという。「間違いが再び起こらないように(AIもレビュアーも)トレーニングしている」と、ニュートン氏は話した。

 10月からは、指定した相手についてコメントの表示を制限したり、DM(ダイレクトメッセージ)の既読が相手に表示されなくなったりするなどの仕組みも導入した。いじめの被害者が加害者に悟られることを恐れてブロ…

この記事は有料記事です。

残り805文字(全文1605文字)

山口朋辰

1979年横浜市生まれ。神奈川新聞社を経て2004年入社。神戸支局、豊岡支局、大阪社会部、中部報道部を経て、19年春から統合デジタル取材センター。世の中の喜怒哀楽を発信していきます。

おすすめ記事
広告
毎日新聞のアカウント
ピックアップ
話題の記事

アクセスランキング

毎時01分更新

  1. 「シナリオ」でもあるかのよう… 首相会見に行ってきた

  2. 氷バケツ運動のピート・フレーツさん死去、34歳 ALSで闘病生活

  3. 「脱皮」のダイオウグソクムシ死ぬ 世界初の前半部脱皮ならず 鳥羽水族館

  4. 唐揚げ、焼きそば、瓶ビール…官邸幹部の「セコい裏技」露呈 「桜を見る会」弁明

  5. 安倍首相公式ツイッター、ローマ教皇と誤り別のアカウントを拡散

編集部のオススメ記事

のマークについて

今週のおすすめ
毎日新聞社は、東京2020大会のオフィシャルパートナーです