• マイクロソフトは、サイバー犯罪者グループの訴訟を起こし、生成AIサービスの安全ガードレールを迂回するために設計されたツールを開発したとして法的措置を講じた。
  • 訴状によれば、犯罪者たちは盗まれた顧客の資格情報やカスタムソフトウェアを使用してセキュリティ対策を回避し、マイクロソフトのプラットフォームを通じて有害なコンテンツを生成したとされる。
  • 犯罪者たちはDe3uや逆プロキシサービスなどのツールを使用してマイクロソフトの生成AIシステムを操作し、他の悪意ある行為者にアクセス権を転売したとされる。

マイクロソフトは、創造的表現と生産性を向上させるために生成AIツールを利用する人々が日々増えているが、その利点は悪意ある行為者を引き寄せ、技術や革新を悪用するものもいると述べている。

私の考え:
この記事では、マイクロソフトが生成AIサービスの安全ガードレールを迂回するためのツールを開発したサイバー犯罪者グループに対して法的措置を講じたことが述べられています。生成AIの技術が進化する中で、悪意ある攻撃者がその恩恵を悪用する事例が見られることが指摘されており、技術の悪用を防ぐためには企業や法執行機関の協力が必要とされていると感じます。

元記事: https://siliconangle.com/2025/01/14/microsoft-sues-cybercriminal-operation-developed-tools-bypass-ai-safety-guardrails/