Cerebras のビデオでは、AI が世界最速の AI GPU クラウドの 75 倍の速さでコードを作成している様子が紹介されています。世界最大のチップが AWS の最速チップを直接比較で打ち負かしています | Tom's Hardware

• CerebrasのクラウドAIサービスCerebras Inferenceは、MetaのLlama 3.1 405Bを1秒間に969トークン実行しました。
• これは、AWSの最速のGPUを使用したAIサービスよりも75倍高速です。
• CerebrasはWafer Scale Enginesを使用し、NvidiaやAMDのGPUではなくLLMを実行します。
• Cerebras Inferenceは、Nvidia GPUを使用したAWSよりも20倍速いと主張されています。
• MetaのLlama 3.1 405Bは、4050億のパラメータを持ち、CerebrasのWafer Scale Engineプロセッサーによって「瞬時の速度」で実行されます。

私の感想: Cerebrasの技術は非常に印象的であり、既存のGPUに比べて大幅に高速であることが示されています。これにより、大規模なモデルやシミュレーションを高速に処理できる可能性が広がります。今後、AI分野のさらなる進展が期待されます。

元記事: https://www.tomshardware.com/tech-industry/artificial-intelligence/cerebras-video-shows-ai-writing-code-75x-faster-than-worlds-fastest-ai-gpu-cloud-worlds-largest-chip-beats-awss-fastest-in-head-to-head-comparison