ディープフェイクとは？意味・仕組みと見分ける印の年表（2026年11月時点）

ひとことで言うと

ディープフェイクは AI で作ったり加工したりした画像・音声・動画のうち、実在の人や出来事に似せてあり、見た人が本物だと思いこみうるものを指す。総務省の令和6年版 情報通信白書は、「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語だと説明している。

白書は国内の例として、生成AIで作られた岸田総理大臣の偽動画が SNS で広まった事例を挙げている。首相に似た声で話させ、ニュース番組の生中継のように見せた動画だった。海外では、米大統領選の予備選の前に、偽の音声でバイデン大統領になりすました電話がかけられた事例も紹介している。

仕組み

ディープフェイクは、次の要素がそろうと作れる。

• 生成するモデル：大量の写真や音声で学習した生成AIのモデル。2018年12月の StyleGAN の論文は、顔の画像を作る生成器で、顔の向きや細かな特徴を分けて扱う方法を示した。
• 本人の素材：似せたい人の写真や声の録音。ElevenLabs の説明では、Instant Voice Cloning は短い音声から声の複製を作る。専用のモデルは学習せず、学習済みの知識から声を推測する。
• 加工の機能：写真の一部だけを変える編集も含まれる。TRAIL の年表では、2025年8月に Gemini アプリに入った Nano Banana は、人物の写真を編集しても本人と分かる状態を保ち、服装や場所を変えられる。
• 広める場所：SNS や動画サイト。白書は目を引く情報ほど優先して表示され、広告収入のために偽の情報が広まりやすい構造があると指摘している。

EU が2024年に成立させた AI 法は、ディープフェイクを「実在の人物、物、場所、団体、出来事に似せた、AI で生成または加工した画像・音声・動画で、見た人に本物や真実だと誤って思わせるもの」と定めている。この定義では、作った方法より、実在のものに似ていて本物と誤解されうるかどうかが基準になる。

表で見る最新の状況

上の年表は TRAIL の DB から、本物そっくりに作る機能と、AI で作ったことを示す印（透かしや来歴の情報）に関わる出来事11件を古い順に並べたものだ。確認日は2026年10月10日から10月13日。

本物に近づける機能は2023年1月23日の ElevenLabs の「ベータ版を公開」から並ぶ。このとき、5秒ほどの音声サンプルから声の複製を作れるようになった。2024年10月には HeyGen が「Interactive Avatar が Zoom 会議に参加」を公開し、自分の AI のクローンを Zoom の会議に出せるようにした。

印の側では、2024年3月21日に Suno が「v3 を公開」で生成した曲に透かしを入れ、5月14日の Google の「Veo を発表」では動画に SynthID の電子透かしが入った。SynthID は人には見えず、検出の仕組みで読み取れる透かしだ。2025年9月30日に OpenAI は、Sora の公開時点ですべての出力に目に見える透かしと C2PA のメタデータを入れると公表した。C2PA はどの道具でいつ作り、どう編集したかという来歴をファイルに付ける公開の規格である。2025年11月20日には、Gemini アプリに画像を上げると、Google の AI で作成・編集されたかを答えるようになった。2026年1月28日の「日本の Google フォトに Nano Banana」では、編集の履歴が C2PA で記録される。

TRAIL の年表では、11件のうち9件が透かしか来歴の情報に触れている。本物そっくりに作る機能と並んで、AI で作ったことを示す印を付ける動きが2024年から続いている。

ディープフェイクと生成AI、偽・誤情報の違い

白書は、能登半島地震のときに、東日本大震災の津波の映像などを能登半島地震と結びつけた投稿が多く広まったと書いている。古い本物の映像でも偽・誤情報になる。ディープフェイクはそのうち AI で作ったり加工したりしたものだ。

仕事でどう関係するか

上司や取引先を名乗る電話やビデオ会議が来たとき

声や顔が本人に似ていても、それだけで本人とは決められない。ElevenLabs の Instant Voice Cloning は短い音声から声の複製を作り、HeyGen は AI のクローンを Zoom の会議に出せる。送金や契約のように取り消しにくい依頼は、前から知っている電話番号にかけ直すなど、別の経路で確かめる手順を決めておける。

受け取った画像や動画が AI 製か確かめたいとき

Google によると、Gemini、Google 検索、Chrome に画像・動画・音声を上げて、Google の AI で作成・加工されたかを尋ねると、SynthID の透かしを探して答える。Google の SynthID Detector では、Google のほか OpenAI、NVIDIA、Kakao などの AI で作ったものも調べられる。

この画像は AI で作成または加工されたものですか。
SynthID の透かしや C2PA の来歴情報が見つかったかどうかと、
見つからなかった場合に何が言えないかを分けて答えてください。

自社で作った画像や動画を公開するとき

OpenAI によると、ChatGPT、Codex、OpenAI の API で作った画像には、C2PA の Content Credentials と SynthID の透かしの両方が入る。EU の AI 法の第50条4項は、ディープフェイクにあたる画像・音声・動画を生成・加工する AI システムを使う事業者などに、AI で生成・加工したことの開示を求めている。条文では、この規定は2026年8月2日から適用される。芸術や風刺の作品では、作品の鑑賞を妨げない形で示せばよいとされる。EU で広告や広報に使うなら、表示の要否を確かめる材料になる。

注意点と限界

印が見つからなくても、人が作ったとは言えない。Google によると、SynthID Detector で調べられるのは、Google と提携先の AI で作ったものだ。また、印は加工で消えることがある。OpenAI は、Content Credentials はスクリーンショットやファイルの変換で失われることがあり、透かしも大きな切り取りや圧縮、言い換えや翻訳で検出できなくなることがあると書いている。

反対に、印が付いていても中身が正しいとは限らない。OpenAI は、来歴の印は内容が正確か、編集されていないか、正しい文脈で示されているかを保証しないとしている。

判定の道具もある。白書によると、国立情報学研究所は2021年9月に、AI で作った偽の顔画像を自動で判定する「SYNTHETIQ VISION」を開発した。

よくある質問

関連する用語

• 生成AI：文章や画像、音声、動画を新しく作り出す AI
• 画像生成AI：指示の文章から画像を作る AI
• 動画生成AI：指示の文章や画像から動画を作る AI
• 音声生成AI：文章を読み上げたり、声を複製したりする AI
• ディープラーニング：ディープフェイクという名前のもとになった技術
• ツール：Nano Banana、Veo、ElevenLabs、HeyGen、Adobe Firefly