- MLPerfにおける初めてのNvidia Blackwell、AMD、Google、Untether AIのベンチマークが公開
- NvidiaのBlackwellチップはLLM Q&Aベンチマークで最高のGPUパフォーマンスを示す
- MLPerfはさまざまなカテゴリとサブカテゴリを持ち、データセンター向けが最も多くの提出を集める
- 新しいベンチマーク”Mixture of Experts”はLLM展開の成長トレンドであり、NvidiaのBlackwellは4ビット浮動小数点精度を使用して高パフォーマンスを実現
- UntetherAIは画像認識の効率性に成功し、At-memory computingアプローチを採用
私の考え：AI推論において競争力が高まっていることが示唆されており、低エネルギー効率を備えた競合他社の台頭が見られます。NvidiaのBlackwellチップのパフォーマンスは優れていますが、他社も独自の革新を行っており、AIチップ市場は今後も拡大していくことが予想されます。
元記事: https://spectrum.ieee.org/new-inference-chips