- クラウドビルダーとハイパースケーラーはAIトレーニングプラットフォームの展開にNvidiaデータセンターGPUと自社のXPUアクセラレータを使用
- AI推論の高コストはGenAIの展開に影響、推論容量はトレーニング容量の10倍以上になる可能性
- 推論コストの削減が重要であり、AI推論が利益を上げるためには価格を引き下げる必要あり
- Cerebras、SambaNova、GroqなどのAIチップスタートアップは推論に注力、ユーザーをシステム購入へ誘導
- AI推論の競争が活発化し、Groq、Cerebras、SambaNovaなどが性能や価格で競い合う
AI推論のコスト削減と性能向上が極めて重要であり、AI推論の普及にはこれらの要素が不可欠です。AIチップスタートアップが推論に注力し、競争が激化しています。今後、AI推論の市場はどのように発展していくのか注視が必要です。