- AMDは、初めてのMLPerf提出結果を発表しました。
- MLPerfには複数の提出タイプがあり、AMDは人気のあるLLMモデル、Llama 2 70Bに初めて提出しました。
- AMDのMLPerf Inference v4.1提出には、Llama 2 70Bの3つのエントリがあり、市場で利用可能なAMD CPUとGPUの最適な組み合わせを示しています。
- MI300Xの大容量メモリ（192GB）は、競合する多くのGPUで複数のアクセラレータに分割する必要があるLlama 2 70Bモデルを単一のGPUで実行できるようにします。
- AMDの次世代CPUがAIタスクのパフォーマンスを向上させています。
- MLPerf 4.1 Inferenceラウンドでは、AMDの結果が他の業界リーダーの提出と比較して、MI300X with ROCmがLlama 2 70Bのような巨大LLMの推論パフォーマンスを提供できることが示されています。
この記事では、AMDがMLPerfにおける初めての提出結果を誇りに思っていることが伝えられています。AMDは人気かつ関連性の高いLLMモデルであるLlama 2 70Bに焦点を当て、AIタスクにおいて市場で利用可能な最適なAMD CPUとGPUの組み合わせやMI300Xの大容量メモリによる優れたパフォーマンスを強調しています。また、AMDの次世代CPUがAIタスクの性能を向上させることも示されています。MLPerf 4.1 Inferenceラウンドにおいて、AMDの結果が他の業界リーダーの提出と比較して、MI300X with ROCmが巨大LLMの推論パフォーマンスを提供できることが証明されています。
元記事: https://digitalterminal.in/trending/amd-takes-lead-in-ai-with-latest-mlperf-submission