Googleの生成AIツールGeminiが悪意あるサイバー活動をサポートするために、国家主導の脅威行為者によって頻繁に悪用されている。
- Google Threat Intelligence Group（GTIG）の分析によると、イラン、中国、ロシア、北朝鮮のAPTグループが、大規模言語モデル（LLM）を様々な悪意ある活動に利用している。
- 主なタスクは、調査、脆弱性の悪用、マルウェア開発、フィッシングメールなどのコンテンツの作成とローカライズが中心。
- GTIGは、国家主導の脅威行為者がプロンプト攻撃や他のAI固有の脅威を使用する試みを観察しておらず、ツールは主に生産性向上に使用されている。
- イラン政府支援の行為者がAPT行為者に関連するGeminiの最大利用を占めている。
- 中国のAPTグループはGeminiを偵察目的で使用し、特に米国の軍事およびIT組織に焦点を当てている。
- 北朝鮮の国家行為者は、攻撃ライフサイクルの複数の段階をサポートするためにGeminiを使用している。
- ロシアの国家主導グループは、他の国に比べGeminiの悪用が制限されている。
GTIGは、ロシアの行為者がGeminiや他の西側管理プラットフォームを避け、活動が監視されることを回避するため、ロシア企業が生産するAIツールを使用するか、LLMをローカルでホストする可能性があると述べた。
生成AIは脅威行為者によって悪用される可能性があるため、セキュリティ対策が重要です。国家主導のAPTグループがGeminiを活用していることは深刻な問題であり、今後も新しいAIモデルや技術が出現する中、攻撃者がその使用方法を進化させることが予想されます。
元記事: https://www.infosecurity-magazine.com/news/nation-state-abuse-gemini-ai/