- Microsoftは、Azureの生成的人工知能ツールに組み込まれたガードレールを逃れ、有害な画像を生成するサイバー犯罪サービスを使用したとして、10人の個人を提訴。
- 提訴は、Virginia東部地区の米国地方裁判所で開示され、10人の未公開の「John Doe」容疑者を対象にし、3人がMicrosoftや他社が提供する生成的AIサービスの安全ガードレールを回避するために設計されたツールを開発したと非難。
- MicrosoftはAIのガードレールを強化し、今後の悪意ある活動を阻止するための対策を講じることを目指している。
- 犯罪者たちは、盗まれたAPIキーと技術的な回避手段を使用してこれらのガードレールを破る方法を見つけ、その情報を他者に販売していた。
Microsoftの提訴によると、生成的AIモデルのガードレールを回避して有害な画像を生成するサイバー犯罪サービスが存在していたことが明らかになりました。これは、AI技術の悪用がどのように行われているかを示す重要な事例であり、Microsoftは今後も安全対策を強化していく必要があると言えます。
元記事: https://www.govinfosecurity.com/microsoft-sues-harmful-fake-ai-image-crime-ring-a-27277