Cisco、Nvidia が LLM の安全性とセキュリティを強化するツールを提供 • The Register

1月 17, 2025

CiscoとNvidiaは、現在のAIの有用性と同様に、技術が同様に危険であることを認識し、それらの弱点に対処するためにツールを提供している。
Nvidiaは、AIエージェントがユーザーに乗っ取られたりインターネットに適切でない内容を広めることを防ぐために、特化した3つのマイクロサービスを導入した。
NvidiaのInference Microservices（NIMs）は、チャットボットや自律エージェントが意図通りに動作するように設計されている。
NvidiaのJailbreak検出モデルは、不正な行動を防ぐことを目指しており、複数のガードレールモデルを組み合わせることがセキュリティのギャップとコンプライアンスの課題に包括的に対処するのに必要とされると述べている。
Nvidiaは、これらのガードレールを小さな言語モデルに基づいて提供しており、スケーラビリティを確保しつつ、リソースを最小限に抑えることができる。

私の考え：NvidiaとCiscoは、AIの安全性と信頼性の向上に取り組んでおり、それぞれ独自のツールを提供している。AIのセキュリティとコンプライアンスへの取り組みがますます重要となっており、このような取り組みが進んでいることは歓迎すべきだと思います。