- 水印技術がAIチャットボットに導入される可能性がある
- 大規模言語モデル（LLMs）の能力が人間の作成物とほぼ区別がつかないテキストや画像を生成することができる
- 新しいアプローチによるAI生成テキストの水印付与が試験されている
- DeepMindチームが水印技術をGoogleのAIチャットボットGeminiに実装し、20百万のユーザーによる実験を行った
- 水印技術はAIによる害を制限するための重要な技術と見なされており、規制当局がそれを強化している
水印技術はAIの誤用に対抗するために重要であり、技術的な障壁を克服するだけでなく、企業やユーザーがそれを受け入れることが必要です。規制は企業に行動を取らせる可能性が高いですが、ユーザーが水印技術や類似の技術を信頼するかどうかは別の問題です。研究者がこれらの問題を研究することが喫緊の課題です。
元記事: https://www.nature.com/articles/d41586-024-03418-x