メインメニューをとばして、このページの本文エリアへ

データ社会考~米国の現場から

不平等や差別を拡大 「アルゴリズム」に警戒を キャシー・オニール氏

インタビューに応じるキャシー・オニールさん=米ニューヨークで2019年5月、横山三加子撮影

 巨大IT企業などが膨大な個人情報を活用して生み出したインターネット上のサービスは、私たちの生活を飛躍的に便利にした。一方で、大規模な情報流出、投稿やデータの分析が差別を助長しかねない現状など、数々の問題も浮上している。データ社会は今後どうあるべきか、米国の2人の専門家に聞いた。2人目はデータ分析の専門家であるデータサイエンティストのキャシー・オニール氏(47)。【聞き手・横山三加子/外信部】

 --著書「あなたを支配し、社会を破壊する、AI・ビッグデータの罠(わな)」で、データを分析するアルゴリズム(コンピューターの計算手法)によって不平等がさらに拡大することを「数学破壊兵器」という言葉で指摘しています。

 ◆アルゴリズムが失敗する原因は四つあります。1点目は、間違いが見えず、人々がアルゴリズムを信頼しすぎることです。米国で使われている教師の評価モデルは、貧困地域の学校に勤める教師を低く評価する傾向があり、ある教師は解雇されました。生徒や保護者からの評価は高かったのに、評価モデルのしくみや、コンピューターが解雇という結論を出した理由について誰も説明できませんでした。

この記事は有料記事です。

残り1867文字(全文2356文字)

おすすめ記事
広告
毎日新聞のアカウント
ピックアップ
話題の記事

アクセスランキング

毎時01分更新

  1. 大阪のタワマン29階から男性転落死 警視庁が詐欺容疑で家宅捜索中

  2. 登下校中のマスク、文科省「暑い日はむしろ危険」 児童間距離確保に「傘」利用も

  3. 北九州で新たに21人感染確認 23日連続ゼロから一転…「第2波」への懸念強まる

  4. 10万円を2196人に二重給付 大阪・寝屋川市、計2.1億円返還求める

  5. 「人としてあるまじきこと」 不倫報道の埼玉県議が議員辞職

編集部のオススメ記事

のマークについて

今週のおすすめ
毎日新聞社は、東京2020大会のオフィシャルパートナーです