- Microsoftは、Azure OpenAI Serviceを搭載したAIツールChatGPTの安全プログラミングを意図的に迂回するためのツールを開発した集団を非難
- 2024年12月、テックジャイアントは、10人の匿名の被告を提訴
- Microsoftは、サーバーが「攻撃的」「有害かつ不正なコンテンツ」の作成に利用されたと主張
- Microsoftは、APIキーの不正使用を発見し、被告がMicrosoftのAPIキーを盗んだとして非難
- 被告は、APIキーを盗むためにde3uというクライアントサイドツールを作成
- de3uは、Azure OpenAIサービスのコンテンツフィルターを迂回し、通常は許可されない画像を生成することができる
Microsoftは、Azure OpenAIサービスの安全性を保護するために厳しい姿勢を示している。被告はAPIキーの盗難やコンテンツの不正使用によってMicrosoftの措置を回避しようとしたが、Microsoftはこの問題に真剣に取り組んでいることが伺える。