- NVIDIAは5百万以上のプログラムメンバーに対して、開発、テスト、研究用途でAI NIMマイクロサービスへの無料アクセスを提供開始
- 最新のダウンロード可能なNIMマイクロサービスには、オープンソースのMetaのLlama 3.1 8BとMistral AIのコンパクトなMistral 7B Instructが含まれている
- 開発者プログラムメンバーは、最大2つのノードまたは16のGPUでNIMマイクロサービスを使用可能
- 本番環境でNIMを使用するためには、組織は無料の90日間のNVIDIA AI Enterpriseライセンスに登録する必要がある
- 開発者は、事前トレーニングされたLLMを製品に統合するためのシンプルなAPIを使用でき、NVIDIA NIMは開発者がAIモデルエンドポイントを迅速に展開できるようにする
- 開発者はNVIDIA APIカタログでマイクロサービスを選択し、NIMマイクロサービスをダウンロードし、コンテナ用のAPIキーを取得する
- NVIDIAのNIMはAI用の生態系を作成することを目指しており、NVIDIA、A121、Adept、Cohere、Getty Images、Shutterstockのモデル、Google、Hugging Face、Meta、Microsoft、Mistral AI、Stability AIのオープンモデルをサポートしている
- NVIDIAは既にAmazon、Google、Microsoftと協力し、これらのNIMマイクロサービスをSageMaker、Kubernetes Engine、Azure AIで利用可能にする計画であり、Deepset、LangChain、LlamaIndexなどのフレームワークに統合する予定である
- 会社は、NVIDIA RAG LLMオペレーターをNIMとして利用可能にするなど、追加の機能を追加する予定である
私の考え: NVIDIAのNIMは、AI開発者にとって非常に便利であり、AIモデルの展開を迅速かつ効率的に行うことができるようになる。また、NVIDIAが他の大手テック企業と協力して、これらのサービスを幅広いフレームワークに統合する計画を持っていることは、AI技術の普及に大きな影響を与える可能性があると感じる。
元記事: https://iblnews.org/nvidia-made-access-free-its-nim-for-developers/