- VultrがAMDのInstinct M1300X GPUをAIクラウドに追加
- AMDアクセラレータに加えて、顧客はAI展開にAMD ROCmオープンソフトウェアにもアクセス可能
- AMD Instinct M1300X GPUはAMD CDNA 3アーキテクチャに基づき、生成AIや高性能コンピューティングワークロード向けに設計
- GPUには19,456のストリームプロセッサと1,216のマトリックスコアが搭載
- アクセラレータは、構造化スパースネス（E5M2、E4M3）を備えたピーク8ビット精度（FP8）パフォーマンスが5.22ペタフロップス、ピーク倍精度（FP64）パフォーマンスが81.7テラフロップス
- VultrのCEOであるJ.J. Kardwellは、「革新はオープンなエコシステムで育つ」と述べている
- AMDのNegin Oliverも、Vultrとの緊密な連携に誇りを示し、高性能AIトレーニングおよび推論タスクを管理し、総合的な効率を向上させるために設計されたVultrのクラウドプラットフォームを称賛
- VultrのGPUクラウドには、Nvidia H100 GPUやGH200チップも提供
- 競合他社のNscaleは、M1300Xアクセラレータ、AMD MI250 GPU、NvidiaのA100、H100、V100 GPUを基にしたGPUクラウドを提供
- AMDは2024年8月にROCm 6.2を発売し、オープンソースソフトウェアスタックの最新バージョンを提供
- ROCmには、AMD GPUでの生成AIやHPCアプリケーションのプログラミングをサポートするためのドライバ、開発ツール、コンパイラ、ライブラリ、APIが含まれている
- 最新バージョンでは、拡張仮想Large Language Model（vLLM）サポート、AMD Instinctアクセラレータでの強化されたAIトレーニングおよび推論、広範なFP8サポートが提供されている
私の考え：
AMDのInstinct M1300X GPUを含むVultrのAIクラウドとAMD ROCmオープンソフトウェアの組み合わせは、顧客に柔軟性、拡張性、およびセキュリティを提供するとともに、高い性能とコスト効率を実現しています。AMDの取り組みは、AIおよびHPCアプリケーションのプログラミングをサポートし、革新と成長を促進するための効率的なツールを提供しています。ROCmの最新バージョンでは、さらなる機能拡張が行われ、AMDの技術がますます幅広い用途に活用される可能性があります。