- Slack AIは、Salesforceのチームメッセージングサービスのユーザー向けに提供されているアドオン支援サービスであり、PromptArmorというセキュリティ企業によると、プロンプトインジェクションの脆弱性がある。
- このAIサービスは、Slack内で長い会話を要約したり、質問に答えたり、滅多に訪れないチャンネルを要約するなどのタスクに使用される生成ツールを提供している。
- プロンプトインジェクションとは、システムプロンプトを変更してモデルが誤動作するか、後続の相互作用が安全ガイダンスによって制約されないようにする技術である。
- PromptArmorが特定した主要な問題は、Slackがユーザーのクエリを公開および非公開の両チャンネルからデータを取得できるように許可していることであり、これは悪用され得る振る舞いである。
- Slackは、公開チャンネルに投稿されたメッセージは、そのチャンネルに参加していなくてもワークスペースのすべてのメンバーが検索して表示できると考えているが、これはPromptArmorがリスクを誤解していると主張している。
この記事では、Slack AIのセキュリティ上の脆弱性に関する重要な問題が指摘されています。プロンプトインジェクションにより、Slack AIを悪用して非公開チャンネルからデータを取得する可能性があります。Slackは公開チャンネルと非公開チャンネルのデータ取得について意図的な動作と考えていますが、これが悪用されるリスクがあると警告されています。
元記事: https://www.theregister.com/2024/08/21/slack_ai_prompt_injection/