要約:
- SC Mediaによると、AWS Bedrock環境は、露出したAWSアクセスキーを使用する脅威アクターによって増えている。
- ほとんどのLLMハイジャッキング活動は、性的ロールプレイに関するプロンプトを許可することを目的としており、Permisoの報告によると、AnthropicのClaude 3 Sonnetが最も悪用されている。
- この種の悪用は既にAnthropicによって認識され、LLMハイジャッキングに対する新しい防御策を継続的に開発することを誓った。
- Anthropicのスポークスパーソンは、「ユーザーを保護するために厳格なポリシーと先進技術を実装し、他のAI開発者がそれから学べるように独自の研究を公開することに取り組んでいます。研究コミュニティの潜在的な脆弱性を示す努力に感謝しています。」と述べた。
- 一方、Permisoのp0 LabsシニアバイスプレジデントIan Ahlは、特定のAPIの長期アクセスキーの利用状況を追跡するようAWSの顧客に促し、LLMハイジャッキングのリスクを抑制するようにした。
考察:
この記事からわかるように、大規模言語モデルをサポートするAWS環境は、露出したアクセスキーを悪用する脅威にさらされています。Anthropicは、LLMハイジャッキングに対する新しい防御策を開発することを約束しており、セキュリティの重要性が強調されています。PermisoのIan Ahlは、AWSの顧客に対して長期アクセスキーの利用状況を追跡するよう勧告しており、セキュリティリスクを軽減するための対策が求められていると言えます。
元記事: https://www.msspalert.com/brief/bedrock-genai-infrastructure-subjected-to-llm-hijacking