- MITREのCenter for Threat-Informed Defense（Center）は、15以上の企業と協力して、AIを活用したシステムの脅威と防御に関するコミュニティの知識を向上させ、AI Incident Sharingイニシアチブの立ち上げを行った。
- AI Incident Sharingイニシアチブは、MITRE ATLASを中心に構築されたSecure AIプロジェクトの一環であり、2024年6月に開始された。
- Secure AIプロジェクトでは、ATLAS脅威フレームワークを拡張し、生成AIを対象とした新しいケーススタディや攻撃技術を公開した。
- MITREは、Microsoftと協力して、2023年11月に生成AIに焦点を当てたATLAS知識ベースを拡充してきた。
- MITRE ATLAS AI Incident Sharingイニシアチブでは、実際のAIシステムで発生しているインシデントに関する保護された匿名データを信頼できる貢献者コミュニティに提供している。
私の考え: MITREの取り組みは、AIシステムの脅威や防御に関するコミュニティの知識を向上させる上で非常に重要だと思います。特に、AI Incident Sharingイニシアチブは、攻撃や事故に関する情報を迅速かつ保護された形で共有することで、AIシステムの集団的な防御を向上させることを目指しており、これは業界全体のセキュリティ向上に貢献すると考えられます。