要約
- Booz AllenはAIサービスの米連邦政府への最大提供者であり、安全で信頼性のある機械学習システムの構築と展開に取り組んでいます。
- Booz AllenのAIセキュリティリスクアセスメントは、組織がミッションの優位性を提供し、敵対的攻撃を阻止する実践を特定して実装するのに役立ちます。
- Booz Allenの8週間のAIセキュリティ評価は、AIシステムを評価するための3段階のプロセスに従います。
- ステップ1 – 情報収集。組織のAIユースケース、ジェネAI、自動化目標、モデル、パイプライン、既存の敵対的攻撃防止措置などを理解するために、文書レビューと協力的なワークショップを実施します。
- ステップ2 – 脅威モデリング。MITRE ATLASに関連する構造と語彙を使用して、脅威ランドスケープ分析を実施し、特定の脆弱性に注意を喚起します。
- ステップ3 – セキュリティ勧告。各AIセキュリティリスク/脆弱性について1つ以上の緩和オプションを提供し、環境に最適な緩和を推奨します。
- Booz AllenのAIセキュリティ評価は、3つの成果物で締めくくられます。
- 1. 情報収集の要約をまとめたDiscovery Report。
- 2. 潜在的なリスク、脆弱性、改善策を詳細に示すAIリスクレポート。
- 3. AIエンジニアリング文書プロトコルを含むアンケート形式の質問票。
感想
Booz AllenのAIセキュリティアセスメントサービスは、組織がAIシステムのセキュリティリスクを評価し、適切な対策を講じるのに役立つ包括的なアプローチを提供しているように見えます。特に、脅威モデリングやセキュリティ勧告などのステップが、組織が敵対的攻撃やデータ漏洩などのリスクに対処するのに役立つと考えられます。
元記事: https://aws.amazon.com/marketplace/pp/prodview-oeiok3svjtscs