- Black Hat USAでのAIセキュリティ脅威に関する会議が開催
- MicrosoftのCopilotが攻撃者に悪用される可能性が示唆されるデモ
- 攻撃手法は、LLMベースのツールを設計通りに利用することに依存
- Copilotは企業の機密情報に深く統合されており、攻撃の標的となりやすい
- Microsoftは脆弱性を認識し、対処するために共同作業している
脅威はMicrosoftやCopilotに限定されたものではなく、他社のAIアシスタントも同様の脆弱性を抱えている。セキュリティリサーチャーやエグゼクティブは、生成AIがサイバー脅威の光景を完全に変えたことを確認しており、新しいサイバーセキュリティの時代の幕開けを象徴している。
元記事: https://fortune.com/2024/08/13/microsoft-ai-copilot-hacking-prompt-injectoin-attack-black-hat/