- Permisoによると、攻撃者はAWSのBedrockモデルを呼び出すためにキーを入手し、一般的なジェイルブレイク技術を使用してモデルのコンテンツフィルタリングをバイパスした
- セキュリティ研究者は、AIシステムが性的なボットを実行するために乗っ取られていると述べている
- Permisoは、AWSキーの漏洩後にこの行動を追跡し、すぐに悪用された
- 攻撃者は盗んだキーを使用して、AWS Bedrockにアクセスし、性的なロールプレイボットを稼働させた
- Permisoによると、攻撃者はAWSのAPIを呼び出す際、一般的なジェイルブレイク技術を使用してモデルの利用可能性をチェックした
私の考え：
この記事は、AWSのセキュリティに関する深刻な問題を明らかにしており、攻撃者がAWSのサービスを乗っ取り、不正な活動に利用していることが示されています。AIシステムやクラウドベースのサービスが悪用されるリスクについて再認識させられる内容であり、セキュリティ対策の重要性が強調されています。
元記事: https://www.thestack.technology/cloud-ai-sex-bots/