- Googleが開発したSynthIDテキストウォーターマーキング技術がオープンソース化され、Google責任ある生成AIツールキットを通じて利用可能に
- SynthIDはAI生成テキストを特定しやすくするためのツールであり、大規模言語モデルによるテキストを検出するのを支援
- 水印は大規模言語モデルが政治的な誤情報を拡散させたり、不法な性的コンテンツを生成する際に重要なツールとなっている
- SynthIDは画像、音声、ビデオ、テキストに目に見えない水印を追加し、生成される際にAI生成出力を検出可能にする
- GoogleはSynthIDをGeminiチャットボットに統合済みであり、品質、正確性、創造性、速度に悪影響を与えないと主張
- SynthIDは3文から始まる短いテキストや、切り取られた、言い換えられた、変更されたテキストにも対応可能
自己生成AIのテキストの特定を容易にするSynthIDは、AI開発者にとって有用なツールであると考えられます。水印技術は、政治的な誤情報や不法なコンテンツの拡散など、悪意ある目的に悪用される可能性があるため、重要性が高まっています。GoogleがSynthIDをオープンソース化し、Geminiチャットボットに統合することで、信頼性の高いAI識別ツールの開発に一歩近づいたと言えるでしょう。