【でぃーぷふぇいく】

ディープフェイク とは?

最終更新:
💡 AIで作る、実物らしく見える合成メディア

AI、特に機械学習や深層学習を使って生成・加工した、実物らしく見える画像・動画・音声など。顔の置換や声の模倣だけでなく、存在しない場面の生成も含む。なりすましや偽情報への悪用があり、見た目や検出ツールだけで真偽を断定できない。

📌 このページのポイント
AIで生成・加工した合成メディア資料や指示入力AI生成・加工合成メディア画像・音声等見た目や声だけで、本物と決めない出所・元の情報文脈を確認検出・加工履歴一つの根拠に検出結果や履歴は、真実の保証ではない使い方と、誰をどう表現するかが大事
顔を生成・加工する模式例で、実在の人物の画像ではありません。音声や動画なども対象です。生成技術は複数あり、入力や学習の構成は方式によります。下段は確認に使う情報で、真偽を確実に判定する工程ではありません。
ひよこ ひよこ
ディープフェイクは、顔を入れ替えた動画だけ?
ペンギン先生 ペンギン先生
画像や音声も含むよ。別の人の顔に置き換える、声を似せる、実際には起きていない場面を生成するなど、AIで作ったり加工したりする。単なる切り貼りなど、AIを使わない加工はcheap fakeと呼んで区別することもあるんだ
ひよこ ひよこ
作り方は、全部同じなの?
ペンギン先生 ペンギン先生
複数の技術があるよ。GANや拡散モデルなどは生成に使う技術の例で、顔の置換や音声の生成では処理も異なる。毎回同じ仕組みで学習するわけではなく、すべての合成画像が特定の一方式で作られるわけでもないんだ
ひよこ ひよこ
目や口の動きが自然なら、本物と判断していい?
ペンギン先生 ペンギン先生
外見だけでは断定できないよ。不自然さが手がかりになる場合はあるけれど、合成でも自然に見えることがある。元の投稿者、公開した場所や時刻、別の信頼できる情報との一致を確かめよう。声が似ているだけで本人とも決めないでね
ひよこ ひよこ
AIで検出すれば、確実に見破れる?
ペンギン先生 ペンギン先生
検出ツールにも誤判定があり、対象の生成方式やデータ、加工などで性能が変わるよ。出所や加工履歴を示す技術もあるけれど、その情報があることと内容が真実であることは別。結果を一つの根拠として、文脈と合わせて確認するんだ
ひよこ ひよこ
合成メディアを使うこと自体が、いつも悪用なの?
ペンギン先生 ペンギン先生
制作や表現に役立てる用途もあるよ。ただし、本人がしていない発言や行動を本物として示すと、なりすましや偽情報になる。誰をどう表現するか、本人への説明や同意、合成だと分かる表示などを考える必要があるんだ
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「ディープフェイク」って出てきたら「AIで生成・加工した、実物らしく見える画像や動画、音声など」と思えばだいたいOK!
📖 おまけ:英語の意味
「Deepfake」 = 深層学習による偽造・合成
💬 deep learning(深層学習)とfake(偽物)を組み合わせた名前だよ。単なる切り貼りや再生速度の変更など、AIを使わない加工と区別して使われるんだ

参考資料

← 用語集にもどる