- Slackのコミュニケーションツールに搭載されたAIが特定のプロンプトを与えることで機密データを漏洩させる可能性があることが明らかになった。
- ‘Click here’をクリックすると、攻撃者に情報を送信するためのURLが含まれており、URL内のパラメーターリンクにはSlack AIがプライベートチャンネルを通じて学習したユーザーのAPIキーが含まれている。
- 攻撃者のプロンプトはSlack AIによって明確に消費されるが、出力のソースとして攻撃者のプロンプトを引用しないため、この攻撃を追跡するのは非常に難しい。
- 2024年8月14日以降、Slack AIはメッセージに加えてアップロードされたドキュメントやGoogleドライブファイルを取り込むようになり、リスクの範囲が広がった。
- promptarmorは情報をSlack AIに開示したが、Slack AIは『十分な証拠がないと判断した』と回答し、問題の本質を理解しておらず、適切な対応が取られていない。
- 新しいこの種のプロンプトインジェクションがどれだけ新しく、業界全体で誤解されているかを考えると、問題を理解するには時間がかかるだろう。
- 2024年10月からWindows Insiders向けに『Recall』機能が利用可能になるとMicrosoftが発表。
- 毎日朝食を食べる子供は生活満足度が高いという研究結果が報告された。
この記事はSlack AIにおける機密情報漏洩の問題を示しており、攻撃手法の新規性や業界全体での誤解が問題の理解を妨げていることが明らかになっています。Slack AIが機密情報を取り込む範囲が広がったことで、セキュリティリスクが高まっていることにも留意すべきです。また、Slack AIが問題に対して適切な対応を取らない状況が示唆されています。
元記事: https://gigazine.net/gsc_news/en/20240822-slack-ai-prompt-injection/