要約:
- OpenAIはChatGPT生成テキストの透かしシステムとそれを検出するツールを開発した。
- 透かしはAIの単語予測を調整して検出可能なパターンを作成するもので、教育者が学生の課題にAI生成コンテンツを特定するのに役立つ。
- グローバルな調査では、人々の4分の1がAI検出ツールを支持している。
- 透かしの回避は他のAIモデルで言い換えることで可能。
- 非ネイティブスピーカーにとって透かしは影響を及ぼす可能性があり、ChatGPTユーザーの約30%が透かしが導入されるとソフトウェアを少なく使用する可能性を示唆。
- OpenAIは透かしよりも議論の少ない未実証の方法を望んでいる。
- 代替案としてメタデータの埋め込みを検討中で、これは偽陽性を回避するために暗号化署名できる。
考察:
OpenAIのChatGPT生成テキストの透かしシステムは透明性向上に向けた重要な一歩だが、非ネイティブスピーカーへの影響や利用減少の懸念から重要な疑問が浮上している。教育者を支援しコンテンツの整合性を確保する一方で、学生がシステムを回避する方法を見つける可能性があり、その長期的な効果についても疑問が投げかけられている。
元記事: https://autogpt.net/openai-divided-over-launch-of-ai-watermarking-tool/