- Bad Likert Judgeテクニックは、テキスト生成LLMに対する攻撃成功率（ASR）を平均して60％以上向上させる可能性があることを示している。
- このテクニックは、LLMの内部の安全措置をバイパスする方法の1つであり、さまざまなジェイルブレイク攻撃カテゴリーに適用されている。
- LLMは、内部の安全性に関する脆弱性があることが明らかになり、特にハラスメントなどの特定のカテゴリーに対する保護が弱いことが示唆されている。
- Bad Likert Judgeテクニックの有効性が示されており、LLMの安全性を向上させるために、コンテンツフィルタリングの導入が重要であると結論付けられている。
Bad Likert Judgeテクニックは、LLMの安全性に対する脆弱性を浮き彫りにし、効果的なジェイルブレイク攻撃を容易にする可能性がある。また、コンテンツフィルタリングの使用は、ジェイルブレイク攻撃を軽減するための重要な手段であると示されている。
元記事: https://unit42.paloaltonetworks.com/multi-turn-technique-jailbreaks-llms/