- Vanna AIライブラリにはプロンプトインジェクションの脆弱性があり、リモートコード実行（RCE）が可能
- JFrogの研究者がライブラリのチャート生成プロセスでの脆弱性を発見し、ユーザのプロンプトを介してペイロードをRCEする可能性があることが明らかになった
- Vanna AIは自然言語のプロンプトをSQLクエリに変換し、PlotlyというPythonベースのグラフィカルライブラリを使用してクエリ結果を視覚的なチャートとしてユーザに提示することができる
- JFrogの研究者がCVE-2024-5565として追跡する脆弱性によりRCEが可能となることが詳細に説明されている
- ユーザのプロンプトは最初にLLMに送信され、プロンプトに基づいてSQLクエリを生成するようLLMに事前の指示が送られる。生成されたSQLクエリはデータベースに送信され、元のプロンプトとクエリ結果は最終的にPlotlyに渡される
この記事は、Vanna AIライブラリにおける脆弱性とその影響について詳細に説明しています。ユーザのプロンプトを通じて悪意のあるペイロードを実行する可能性があり、その実装には注意が必要です。特に、プロンプトインジェクション攻撃に対する注意が喚起されており、セキュリティ強化のためのガイダンスも提供されています。
元記事: https://www.scmagazine.com/news/vanna-ai-prompt-injection-vulnerability-enables-rce