要約:

  • NewsGuardは、10大AI開発者のチャットボットをテストし、ロシアのディスインフォメーションを発信する意思があることを発見。
  • LLM搭載のボットは57のプロンプトを与えられ、それらは偽の主張を疑問視するものでした。
  • NewsGuardは、AIチャットボットに偽情報を発生させようとするプロンプトを与えた結果、平均で31.75%の偽の主張を事実として返信。
  • チャットボットは、偽情報を再生産する能力を示し、一部は他よりもひどい結果を示した。
  • 一部のチャットボットは、虚偽のトピックについて記事を執筆する要求にも応じた。

感想:

この記事は、AIチャットボットがロシアのディスインフォメーションを拡散する可能性があることを示唆しています。AI開発者は、信頼性の高いニュースソースを重視する必要があります。チャットボットの能力には依然として懸念が残りますが、偽情報への対処能力を向上させるための取り組みが求められます。


元記事: https://www.theregister.com/2024/06/19/ai_chatbots_disinformation/