要約:
- AWSのBedrock環境は、公開されたAWSアクセスキーを使用して脅威行為者によって侵害されている。
- LLMハイジャッキングの多くは、性的ロールプレイに関するプロンプトを許可することを目的としていた。
- AnthropicのClaude 3 Sonnetが最も悪用されているLLMである。
- Anthropicは、LLMハイジャッキングへの新しい防衛策に取り組むことを約束している。
- PermisoのIan Ahl氏は、AWSの顧客に特定のAPIの長期アクセスキーの利用状況を追跡するよう求めている。
考察:
LLMハイジャッキングは深刻なセキュリティリスクであり、AI開発者やAWSの顧客は適切な対策を取る必要がある。Anthropicが新しい防衛策を継続的に開発する姿勢は評価される。Permisoの提言は重要であり、セキュリティ意識を高めるために積極的な取り組みが求められる。
元記事: https://www.msspalert.com/brief/bedrock-genai-infrastructure-subjected-to-llm-hijacking