- DeepKeepはGenAIのLLMとコンピュータビジョンモデルを保護するためにGenAI Risk Assessmentモジュールを導入
- DeepKeepのCEOで創設者であるRony Ohayonは、「市場はますます企業がGenAIを日常のビジネスプロセスに組み込む中で、そのGenAIモデルに信頼できる必要がある。モデルの強靱性を評価することは重要であり、特に推論フェーズ中にさまざまなシナリオを効果的に処理する能力について洞察を提供することが重要である。DeepKeepの目標は、企業にGenAIテクノロジーを活用する自信を与えながら、高い透明性と誠実さの基準を維持することである。」と述べている
- DeepKeepのRisk Assessmentモジュールは、モデル展開に関連するリスクを考慮し、アプリケーションの弱点を特定する総合的なエコシステムアプローチを採用
- Penetration testing、幻覚を生じる傾向の特定、プライベートデータの漏洩の傾向の特定、有害な言語やバイアスの評価などのコア機能を提供
- DeepKeepのGenAI Risk AssessmentモジュールはAI Firewallを活用し、AIアプリケーションへの攻撃に対するライブ保護を実現
DeepKeepのGenAI Risk Assessmentモジュールは、GenAIのモデルを保護するために包括的なアプローチを採用しており、高いセキュリティ基準を確保し、セキュリティチームがGenAIの展開プロセスを効率化するのに役立つと主張しています。
元記事: https://futurecio.tech/deepkeep-launches-genai-risk-assessment-module/