- セキュリティ研究者チームが、Copilotを悪用する攻撃ツール「LOLCopilot」をリリース
- LOLCopilotはMicrosoft 365のユーザーのスタイルでスピアフィッシングメールを作成し、データを不正に持ち出すことが可能
- Zenityの研究者は「LOLCopilot」の機能をBlack Hatセキュリティカンファレンスで紹介
- 他の攻撃ツールにはTeamsphisherがあり、Teamsを使用して機密情報を入手したりマルウェアを実行したりできる
- 他の大手企業製品も、prompt injectionsによる攻撃が可能であることが発見されている
この記事では、広く利用可能なLLMに対する保護を破るためのprompt injectionsの悪用や、それに対抗するセキュリティツールのリリースについて述べられています。特にMicrosoft 365のCopilotを悪用する攻撃ツール「LOLCopilot」に焦点が当てられており、セキュリティリサーチャーの取り組みが紹介されています。AIに関連する環境やLLM自体に対する攻撃に対処するための取り組みが続けられていますが、回避策は容易に見つかると指摘されています。