- Hugging Faceは、NvidiaのInference Microservices（NIMs）に対抗するためにHUGSを発表
- HUGSは、ユーザーがモデルを展開するために必要なすべてを含むコンテナ化されたモデルイメージ
- HUGSは、Text Generation Inference（TGI）やTransformersフレームワークとライブラリに基づいて構築
- ユーザーは、AWSやGoogle CloudでHUGSをデプロイする場合、コンテナあたり1時間で約$1かかる
- HUGSは、NvidiaのNIMsと同様に有料であり、Hugging Faceのオファリングはより安価
この記事では、Hugging FaceがNvidiaのInference Microservices（NIMs）に対抗するためのHUGSを発表したことが述べられています。HUGSはコンテナ化されたモデルイメージであり、AWSやGoogle Cloudでのデプロイ時にはコンテナあたり1時間で約$1かかります。HUGSは、NvidiaのNIMsと同様に有料であるが、Hugging Faceのオファリングはより安価であるとされています。
元記事: https://www.theregister.com/2024/10/24/huggingface_hugs_nvidia/