- Googleは、テキストがAIによって生成されたかどうかをラベル付けする新しい方法を発表しました。
- この機能は2023年5月14日に発表され、Google DeepMindのSynthIDツールに統合されています。
- SynthIDは、元々AIが生成した画像やオーディオクリップを識別する能力を持っていました。
- この新しい方法では、テキスト生成時に追加情報を大規模言語モデル(LLM)に提供し、この操作はユーザーには見えません。
- この技術は、AIが生成したコンテンツを悪意ある目的で使用することを難しくすることを目的としていますが、サイバー攻撃者やハッカーが害を及ぼすのを防ぐ設計ではありません。
- 長いテキストでのパフォーマンスが良好ですが、事実に基づく短い応答を求めるプロンプトではうまく機能しないことがあります。
- テキストが軽度に変形された場合でも機能しますが、大幅に書き換えられたり別の言語に翻訳されたりした場合はあまり効果的ではありません。
- Googleは、この方法を他のAI生成テキストのウォーターマーキング方法と組み合わせることを推奨しています。
- また、Google I/OでAI生成ビデオにもウォーターマークを追加する機能が発表されました。
- この技術は、ビデオの各フレームのピクセルに直接ウォーターマークを埋め込むもので、人間の目には知覚できませんが、識別は可能です。
この技術により、AIによって生成されたテキストやビデオが正確に識別され、悪用されるリスクを減らすことができると考えられます。しかし、完璧なソリューションではなく、特定の条件下では限界があることを理解することが重要です。安全対策としては、他の識別手法との組み合わせを推奨することが妥当でしょう。
元記事: https://www.infosecurity-magazine.com/news/google-synthid-ai-text/