- Nvidia Corp.はSiggraphカンファレンスで、Nvidia Inference Microservicesのライブラリを拡大する発表を行った。
- 今回のハイライトには、Hugging Face Inc.の推論サービスがNvidiaクラウド上で利用可能になることや、3次元トレーニングと推論のサポートが含まれる。
- NIMは、Nvidia AI Enterpriseスイートの一部として提供されるコンテナ化されたマイクロサービスで、様々なハードウェアに最適化された推論エンジンである。
- Nvidiaは、Hugging FaceがNvidiaのDGXクラウド上で推論サービスを提供することを発表し、Hugging Faceの開発者向けに高速なパフォーマンスとサーバーレス推論への簡単なアクセスを提供する。
- さらに、Nvidiaは、物理的AIをサポートする新しいNIMマイクロサービスを発表し、開発者が複雑なタスクを処理するために物理マシンをトレーニングするのに役立つ。
私の考え：Nvidiaは物理環境や3次元トレーニングなど幅広いアプリケーションに対応したNvidia Inference Microservicesのライブラリを拡大しているようです。Hugging Faceの推論サービスや物理AIをサポートする新しいNIMマイクロサービスは、AIモデルの展開を迅速かつ効率的に行うことができるという点で非常に興味深いです。AIの分野での革新的な取り組みが進んでいると感じます。