- Googleが新しいソフトウェアツールSynthIDをオープンソース化し、AI生成コンテンツを特定可能にする取り組みを発表
- SynthIDはGoogle独自の言語および画像生成システムに限定されていたが、他のAIテキスト生成システムにも適用可能
- SynthIDはAI生成テキストに透かしを埋め込み、オリジナルのテキスト生成モデル(LMM)から生成されたかを判別する方法を提供
- Googleによれば、透かしはほとんどのAIテキスト生成ツールに統合可能だが、透かしの検出は未だ困難
- SynthIDは自動検出回避手法に一部耐性を持つが、特に「事実に関する回答」や大量のテキストに対しては検出の確度が低下する
- GoogleはSynthIDテキストが悪意ある攻撃者を直接防ぐことはできないと述べており、透かしシステムの統合はツール選択の自由に依存する
- Googleの競合他社は独自の標準を確立し、自社製品への市場導向を図る可能性があるため、このようなツールを使用しない可能性がある
考察: SynthIDはAI生成コンテンツの透かし付与によりオリジナリティを保護する取り組みであり、その検出の困難さが課題となっている。AI技術の進化に伴い、テキスト生成の信頼性と真正性を確保するための新たなアプローチが求められている。