- NVIDIAはNeMo Guardrailsの機能を強化し、NIMマイクロサービスを統合することを発表
- 公共およびプライベートモデルのトレーニングに対応し、安全性、セキュリティ、コンプライアンスを重視したAIルールと信頼基準を満たす
- Aegisコンテンツセーフティデータセットでトレーニングされたコンテンツセーフティツールが追加され、AIの安全性が向上
- 35,000以上のフラグ付きサンプルを含むこのデータセットは、システムの制限をバイパスしようとする試みに対抗
- NIMマイクロサービスは、ホスピタルや倉庫などのリソース制約のある環境に展開するために最適化された軽量で専門化されたモデル
- NeMo GuardrailsをAIシステムに組み込んだ業界リーダーには、Amdocs、Cerence AI、Lowe’s、Taskus、Tech Mahindra、Wiproが含まれる
- NVIDIAは開発者向けにLMM脆弱性スキャン用のオープンソースツールキットであるGarakを導入
- NeMo GuardrailsマイクロサービスとGarakツールキットは、開発者や企業向けに利用可能で、安全でスケーラブルかつ責任あるAIシステム構築の堅固な基盤を提供
考え：NVIDIAのNeMo Guardrailsは、AIの安全性とコンプライアンスを強化するために重要な役割を果たしており、NIMマイクロサービスの導入により、より安全で適切なAIシステムの構築が可能となっています。業界リーダーが既にこれらのツールを採用しており、AIの安全性と監視を強化するための取り組みが進んでいることが示されています。開発者にとっては、GarakツールキットがAIシステムの脆弱性をスキャンし、問題を特定して対処するのに役立つことも重要です。これらのツールとリソースは、安全でスケーラブルかつ責任あるAIシステムの構築を支援するために利用できることが注目されます。
元記事: https://www.tech-critter.com/nvidia-nemo-guardrails-nim-microservice-news/