AIウォーターマーク とは？

見えるロゴとは別に、人には知覚しにくい情報を埋め込む技術がある。例えばGoogle DeepMindのSynthIDは、AIが生成・編集した画像や動画、音声、文章を識別するための電子透かしだ。すべてのAI製品で使われる共通規格ではないよ。

対象によって違う。SynthIDでは画像や動画、音声へ信号を加える方法があり、文章では生成時のトークンの確率を調整する。読者に見える記号を末尾に付けることと、文章の統計的な特徴へ埋め込むことは別だ。

対応する透かしと検出方法が必要だ。文章のSynthIDの公開実装も、設定や検出器、判定の基準が関わる。別の方式の透かしや、そもそも透かしを付けない生成物まで、同じ方法で必ず分かるわけではない。

そうは言えない。透かしが付いていないAI生成物もあるし、編集や変換などで検出できなくなる場合もある。Googleの検証の案内も、見つからない結果を、AIを使っていない証明にしないよう説明している。

電子透かしは生成や編集の手掛かりで、映った出来事が現実か、説明が正しいかの判定とは別だ。AIで作った正確な説明図もあれば、誤解を招く画像もある。出典や文脈を別に確かめよう。

C2PAは、作成や編集の来歴を署名付きの情報として扱う仕組みだ。コンテンツへ埋め込む透かしとは区別する。ただしC2PAの案内では、透かしやフィンガープリントを使い、取り除かれた来歴情報を再発見する方法も説明している。組み合わせることはできるんだ。