メインメニューをとばして、このページの本文エリアへ

密着けいざい

AIの今/5止 暴走・悪用のリスク 道徳学習させる必要性

人工知能(AI)には「自ら善悪を判断する『基準』や『原則』が必要」と話す米タフツ大のマティアス・シューツ教授=米東部ボストン近郊で、清水憲司撮影

 「前に進みなさい」「すみません。できません」。米タフツ大学は、自らの判断で人間の命令を拒否する人工知能(AI)ロボットを開発した。机の上に置かれると、そのまま進めば机から落ちてしまうことを理解し、命令を拒む。「ちゃんと受け止めるから」という言葉を聞き、ようやく歩き始めた。

 開発したマティアス・シューツ教授は「AIは自分の行動を理解し、善悪を判断する基準を持つ必要がある」と言う。例えば「オイルをかけて」と命じられた家事ロボットが、料理ではなくストーブに油を注げば火事を起こしてしまう。「結果を考えずに単純に命令に従うAIはむしろ危険」というわけだ。

 3月には、インターネット上で人々と会話しながら発達する米マイクロソフトのAI「Tay(テイ)」の実…

毎日新聞のアカウント

話題の記事

アクセスランキング

毎時01分更新

  1. ORICON NEWS NGT48も松本人志も救う? “地獄見た”指原莉乃の神がかった対応力
  2. 平成最後のお年玉 年賀はがき当選番号が決定
  3. ORICON NEWS 松本人志、HKT指原への「体を使って」発言を弁明 カットしなかったのは「鬼のようにスベったから」
  4. 埼玉・春日部共栄の野球部監督が暴力行為
  5. ORICON NEWS お年玉付年賀はがき 当せん番号が決定

編集部のオススメ記事

のマークについて

毎日新聞社は、東京2020大会のオフィシャルパートナーです