この動画、本物?偽造?米大統領選にしのびよる「ディープフェイク」の脅威とは

  • はてなブックマーク
  • メール
  • 印刷
トランプ米大統領のものまね芸人が話す元の映像(左)と、その映像にトランプ氏の顔の映像を合成したディープフェイク(試作版)を並べた動画の一場面=米西部ロサンゼルスのAIベンチャー「ピンスクリーン」提供
トランプ米大統領のものまね芸人が話す元の映像(左)と、その映像にトランプ氏の顔の映像を合成したディープフェイク(試作版)を並べた動画の一場面=米西部ロサンゼルスのAIベンチャー「ピンスクリーン」提供

 人工知能(AI)を使って精巧に偽造された動画「ディープフェイク」が近年、世界で広まっている。作成技術の発達で真偽の判別が困難になっており、政治家の発言や行動が捏造(ねつぞう)されて混乱を招いた例も出現。米国では11月3日の大統領選が近づき、精度の高い偽動画が拡散して選挙結果を左右することへの警戒が広がる。最新テクノロジーが生んだ新たな脅威とは。【ロサンゼルス福永方人】

ニクソン大統領が「アポロ11号」乗員を追悼

 「2人の男は、真実と知性の追求という人類の最も崇高な目標のために命をささげた」

 2019年11月、米マサチューセッツ工科大(MIT)の研究チームが発表した動画が世界に衝撃を与えた。1969年の米宇宙船「アポロ11号」による月面着陸計画が失敗したとの想定で、ニクソン大統領(当時)がテレビ演説で犠牲になったアームストロング船長らを追悼しているかのように見えてしまうディープフェイクだ。

 実際に失敗に備えて用意されていた原稿を読む俳優の映像とニクソン氏の映像を合成し、声も加工した。偽造の最新技術と悪用のリスクを周知するため、MITの研究チームが作成したものだが、アポロ計画が成功したという歴史的事実を知らなければ、偽動画だと分からない危険性が高い。

 文章や写真に比べ人々は動画を本物だと信じ込みやすいため、ディープフェイクの影響力は大きい。始まりは17年11月に米国のネット掲示板「レディット」に投稿された、有名女優の顔を合成したポルノ動画とされる。投稿者のハンドルネームが「ディープフェイク」だったことから、この名称が定着した。

 その後、AIのディープラーニング(深層学習)機能の発達に伴い、顔の特徴などを反映させる精度が向上している。欧米のITベンチャーなどが技術を競うように作成ソフトを開発し、その一部はインターネット上で自由にダウンロードできる。また、スマートフォン向けに無料の顔交換アプリも登場し、ディープフェイクの利用者は増え続ける。

 オランダのサイバーセキュリティー会社「ディープトレイス」によると、20年6月にネット上で確認されたディープフェイクの数は約4万9000件で、18年12月の約8000件から6倍以上に急増。顔などの映像が悪用された分野はエンターテインメント業界が約63%と最も多く、ポルノ動画などに合成された。映像が悪用された件数の国別の割合では米国が約50%と最多で、日本は4%だが5番目に位置している。

 米西部ロサンゼルスのAIベンチャー「ピンスクリーン」の最高経営責任者(CEO)、ハオ・リー氏は「偽造と分からないほど高精度なディープフェイクを作るにはAIに特殊な学習をさせる必要があり、誰でもできるわけではないが、ノウハウは浸透しつつある」と指摘する。

 政治関連のディープフェイクは4%と全体から見ればわずかだが、悪用され問題となったケースが世界で相次ぐ。マレーシアでは19年、閣僚が違法である…

この記事は有料記事です。

残り1845文字(全文3067文字)

あわせて読みたい

注目の特集