- AMDは、Oracle Cloud Infrastructure (OCI)が最新のOCI Compute SuperclusterインスタンスBM.GPU.MI300X.8にAMD Instinct MI300Xアクセラレータを採用し、ROCmオープンソフトウェアを導入することを発表
- OCI Superclusterは、他のOCIアクセラレータで使用されている超高速技術を利用し、1つのネットワークファブリックで最大16,384のGPUをサポート可能
- 新しいOCIベアメタルインスタンスは、大規模な言語モデル（LLM）の推論とトレーニングを含む要求の厳しいAIワークロードに対応
- Fireworks AIなどの企業は、これらのインスタンスを使用してAI推論とトレーニングの能力を強化
- AMDのAndrew Dieckmannは、AMD Instinct MI300XとROCmオープンソフトウェアの採用の拡大についてコメント
- OCIのDonald Luも、AMD Instinct MI300Xアクセラレータの推論能力の重要性を強調
- AMD Instinct MI300Xは、AI推論とトレーニングにおいて効果的であり、特にレイテンシーに敏感なアプリケーションや大規模なバッチサイズに対応可能
- Fireworks AIは、OCIインスタンスの能力を活用し、AMD Instinct MI300Xによってパワードされている
- AMD Instinct MI300Xアクセラレータの実装は、AIトレーニングと推論のための利用可能なインフラの重要な発展を示し、OCIの顧客に向けて性能とコスト効率を向上させる
AMDのInstinct MI300XアクセラレータがOCIのSuperclusterに実装され、AIトレーニングと推論に利用可能なインフラが大きく進化していることが示されています。これは、今日のAIアプリケーションの高い要求を満たすために設計された特化型のソリューションを提供し、OCIの顧客に向けて性能とコスト効率が向上します。
元記事: https://itbrief.asia/story/amd-oracle-boost-ai-capabilities-with-new-accelerator-launch