生成AIにおける信頼と透明性
SynthIDは、AI時代の透明性を促進するためにGoogle DeepMindが開発した画期的な技術です。画像、音声、テキスト、動画など、AIが生成したコンテンツに直接、知覚できない電子透かしを埋め込みます。簡単に削除できる従来のメタデータとは異なり、SynthIDの透かしは、圧縮や切り取りなどの変換後でも検出可能です。
画像
ピクセルレベルの埋め込み
音声
音響マスキング
テキスト
LLM確率生成
動画
フレーム単位
SynthIDのプロセス
SynthIDはモダリティによって動作が異なりますが、生成レベルで識別マーカーを統合するという基本原則は同じです。
ステップ 1コンテンツ生成
➔
➔
ステップ 2不可視の埋め込み
➔
➔
ステップ 3検出と検証
可用性とオープンソース
当初はGoogleのImagenモデル向けに開発されましたが、SynthIDは複数のモダリティに拡張されています。テキスト透かし機能はオープンソース化され、Hugging Faceを通じてアクセス可能になり、世界中の開発者がこのツールをテストおよび実装して、誤情報の拡散を減らすことができるようになりました。
また、メディアをアップロードし、SynthID透かしが含まれているかどうかを尋ねることで、Google Geminiを通じて直接コンテンツを検証することもできます。