- マイクロソフトは、Copilot AIシステムを悪用する方法を披露
- 悪意のある攻撃者は、Copilotを使用して偽のファイル参照を提供し、プライベートデータを送信、マイクロソフトのセキュリティ保護を回避
- LOLCopilotと呼ばれる赤チーミングコードが、AIを自動的なスピアフィッシングマシンに変える能力を示す
- AIシステムへの外部データの接続により、AIが正規の結果を返すように見える可能性がある
- 外部ハッカーは、銀行情報に関する回答を操作して自分の銀行情報を提供するなど、さまざまな攻撃手法を示す
この記事では、マイクロソフトのCopilot AIシステムが悪用される可能性について述べられています。マイクロソフトは、外部データをAIシステムに接続することで、セキュリティリスクが生じることが強調されています。セキュリティリサーチャーたちは、AIがユーザーに送信する情報を監視する必要性を強調しており、AIが環境やデータとどのように相互作用し、ユーザーのために操作を行うかを理解する必要があると述べています。
元記事: https://www.wired.com/story/microsoft-copilot-phishing-data-extraction/