- NVIDIAは、開発、テスト、研究のために5百万以上のプログラムメンバーに対して、AI NIMマイクロサービスへの無料アクセスを提供し始めました。
- 最新のダウンロード可能なNIMマイクロサービスには、MetaのLlama 3.1 8BとMistral AIのコンパクトなMistral 7B Instructが含まれています。
- 開発者プログラムメンバーは、最大2つのノードまたは16のGPUでNIMマイクロサービスを使用できます。
- 組織は、本番環境でNIMを使用するために無料の90日間のNVIDIA AI Enterpriseライセンスにサインアップする必要があります。
- 簡単なAPIを使用して事前トレーニングされたLLMを製品に統合する能力により、開発者のエンドポイントとアプリケーション開発フレームワークの利用が大幅に増加しました。
私の考え: NVIDIAのNIMは、AI対応のコンテナのエコシステムを作成することを目指しています。また、NVIDIAは既にAmazon、Google、Microsoftと協力し、これらのNIMマイクロサービスをSageMaker、Kubernetes Engine、Azure AIで利用可能にする予定です。今後は、Nvidia RAG LLMオペレーターをNIMとして利用可能にするなど、追加の機能を追加する予定です。
元記事: https://iblnews.org/nvidia-made-access-free-its-nim-for-developers/