Google が SynthID AI 透かしツールキットをオープンソース化

10月 26, 2024

要約:

GoogleがSynthIDというAI透かしツールをオープンソース化しました。
SynthIDはAI生成コンテンツにコードを埋め込むことができ、人間の目には見えませんがアルゴリズムで検出可能です。
Google DeepMindによって開発されたSynthIDは画像、音声、テキスト、ビデオに透かしを埋め込むことができ、高度なAIコンテンツの識別を可能にします。
研究チームはSynthID-Textアルゴリズムの技術的説明と、異なる設定値がパフォーマンスにどのように影響するかについての分析をNature誌に公開しました。
SynthIDは2024年5月にGoogleのGemini AIモデルの一部として初めて導入されました。
透かしはTop-KおよびTop-Pの出力後の生成パイプラインに適用され、テキストの品質にほとんど影響を与えずに透かし情報をエンコードします。
透かし検出は確率的であり、Hugging Face TransformersとGitHubで提供されるベイジアン検出器を使用できます。
透かしはAI生成コンテンツの著作権所有者が作品を特定および認識できるようにすることを意図しています。

透かし技術はAI生成コンテンツの著作権保護に役立つ一方、悪意のある行為者が透かしを埋め込まずに偽造作品を作成する可能性もあります。透かし技術の進化と悪用防止策の強化が重要であると考えられます。