• LLM(大規模言語モデル)の普及と洗練化により、悪意のある行為を狙う脅威が拡大
  • LLMプロンプトインジェクション:モデルを操作し、意図しない出力を提供するように設計された入力を使用
  • ウォレット拒否(DoW)攻撃:自動化されたリクエストを送信し、システムを圧倒する
  • DoW攻撃は、基本的なIPベースのレート制限アプローチでは攻撃として認識されない
  • Botによって主に推進されるプロンプトインジェクションとDoW攻撃を防ぐには、DataDomeのような強力なボット対策ソフトウェアに投資するのが最善

この記事では、大規模言語モデル(LLM)に対するセキュリティ脅威として、LLMプロンプトインジェクションおよびウォレット拒否(DoW)攻撃について解説しています。これらの攻撃はボットによって主に推進され、DataDomeなどの強力なボット対策ソフトウェアを導入することが重要であると述べられています。

元記事: https://securityboulevard.com/2024/06/how-datadome-protects-ai-apps-from-prompt-injection-denial-of-wallet-attacks/