• セラブラス社は、Llama-3.1 405B基礎モデルの推論に取り組み、世界最速のスーパーコンピュータであるFrontierよりも700倍高速であることを発表
  • セラブラスのWafer Scale Engineは、世界最大かつ最速のチップである
  • セラブラスは、他のシステムに比べてLlama-3.1 405Bで圧倒的な性能を発揮
  • セラブラスの推論スループット結果は、最速のGPUよりも12倍速く、競合他社のSamba Novaよりも6倍速い
  • セラブラスは、業界で最も速い推論性能を実現し、AIモデルの知的能力を大幅に向上させている

セラブラスの業績と技術革新は、今後のAI分野において重要な存在となる可能性が高いと考えられます。

元記事: https://www.forbes.com/sites/karlfreund/2024/11/18/cerebras-now-the-fastest-llm-inference-processor–its-not-even-close/