エンタープライズ AI セキュリティおよび信頼ソフトウェア企業である Cranium は、Cranium AI Exposure Management という業界初のエクスポージャー管理ソリューションを発表しました。
このサービスは、社内およびサードパーティの AI システムを保護し、安全に保つために設計された強力なツールを組織に提供します。
Cranium プラットフォームは、AI 強化ワークフローと安全な LLM アーキテクチャおよび独自の脅威インテリジェンスを組み合わせたものです。この革新的な統合により、AI システムが明らかになり、潜在的な攻撃対象領域が特定され、組織内の脆弱性が厳密に評価されます。
Cranium の最高経営責任者である Jonathan Dambrot 氏は、次のように述べています。「AI は現在、私たちの世界を動かすすべてのシステムとビジネス プロセスに組み込まれていますが、組織は重大なジレンマに直面しています。それは、自社の AI が安全かどうか誰もわからないということです。規制圧力の高まりと AI の進歩のペースが加わり、リスクは急速に増大しています。当社は、業界初のエクスポージャー管理ソリューションで組織が安心できるようにすることで、これらの課題を解決しています。」
Cranium AI Exposure Management は、企業が AI インフラストラクチャの脆弱性を認識し、機械学習アプリケーションのセキュリティと信頼性を強化し、新たな脅威を発見するためのレッドチームの取り組みを活性化できるようにします。このツールは、新しい脅威の発見を促進し、保護ポリシーを通知し、既知の敵対的戦術と脆弱性に対して AI システムを強化することで、安全な AI/LLM の開発と使用を可能にします。
この革新的なツールにより、「OODA ループ」の各ステップで AI レッドチームが可能になります。観察、方向付け、決定、行動を前提とし、マップと AI による攻撃対象領域の特性評価、最新の脅威インテリジェンスとの比較、AI 強化のビジネス脅威モデリングの洞察、優先度の高い脅威を分析して対処するための組織的な権限付与を提供します。
「組織がより多くの AI サービスを構築し、利用するにつれて、新たな攻撃対象領域が拡大し、管理すべき一連のリスクが生まれています。Cranium のエクスポージャー管理ソリューションを使用すると、セキュリティ チームは組織の AI エコシステム全体にわたって比類のない可視性と洞察力を獲得し、正確かつ迅速なアクションを取ることができます」と Dambrot 氏は説明します。Cranium の発明により、組織はセキュリティ主導の開発文化を育み、AI の導入を加速し、イノベーションのペースに合わせてセキュリティを高めることができます。
Craniums AI Exposure Management ソリューションの主な機能には、ビジネス オペレーション全体に AI 機能を安全に統合するための強力なフレームワークの作成、ソリューションの利用を最適化してリスクを軽減するための AI インフラストラクチャ全体の可視性の向上、脆弱性に対処するためのリスク軽減戦略の策定などがあります。さらに、現在および将来の規制基準への準拠を保証し、進化する基準への準拠についてベンダーに責任を負わせ、敵対的な脅威から保護するために AI の脆弱性を常に認識しています。さらに、機密情報を保護し、顧客の信頼を維持するためにデータ処理をプライバシー規制に合わせ、AI 技術を取り巻くガバナンスに準拠するための AI レッドチーム活動に監査対応の証拠を提供します。
Cranium チームは、2024 年 5 月 6 日から 9 日までサンフランシスコで開催される RSA カンファレンスに参加し、独自のソリューションを実際に体験していただきます。
元記事: https://securitybrief.asia/story/cranium-unveils-industry-first-ai-exposure-management-solution