- SambaNova SystemsがAIソフトウェア開発者向けのクラウドサービス「SambaNova Cloud」を導入
- サービスはSN40L AIチップによって駆動され、推論タスクの加速を目的としている
- MetaのLlama 3.1モデルをサポートし、最大4050億パラメータのバリアントも含まれる
- 推論の増加する重要性を強調し、Nvidiaに代わる選択肢の需要が高まっている
- SambaNovaのクラウドサービスは、他社よりも高速かつ効率的に動作し、Llamaモデルを100トークン/秒以上で実行
この記事によれば、SambaNova SystemsはAIチップ市場におけるNvidiaの支配に挑戦するため、AIソフトウェア開発者向けのクラウドサービスを導入しました。SambaNova Cloudは推論タスクの加速を目指し、MetaのLlama 3.1モデルをサポートしています。SambaNovaのクラウドサービスは、他社よりも高速かつ効率的に動作し、大規模な4050億パラメータのLlamaモデルを100トークン/秒以上で実行することができるとされています。