- デルとIBMの子会社であるRed Hatは、PowerEdge R760xaサーバーにRed Hat Enterprise Linux AI（RHEL AI）を搭載し、ジェネレーティブAIを採用する顧客向けに大規模な言語モデルを実行するパッケージを提供している。
- R760xaサーバーは2RUで、最大2つの第5世代Xeon 64コアCPU、PCIe Gen 5インターコネクト、Nvidia A10/A30/A40、L4/L40/L40S、A100およびH100 GPUをサポートし、8つのNVMeまたは6つのSATAストレージドライブベイを搭載している。
- RHEL AIは、AI機能を強化した標準のRed Hat Enterprise Linuxであり、NvidiaのOmniverse OVX 3.0プラットフォームを使用しており、DellのAI Factory提供の一環である。
- Red HatのJoe Fernandes氏は、「Dell Technologiesと協力して、Dell PowerEdgeサーバーでRHEL AIを検証し、顧客がハイブリッドクラウド環境全体でGenAIワークロードのパワーを利用し、ビジネスを未来に進化させるための自信と柔軟性を提供しています。」と述べている。
- Dell TechnologiesのArun Narayanan氏は、「Dell PowerEdgeサーバーでAIワークロード用にRHEL AIを検証することで、サーバー、GPU、基礎プラットフォームが継続的にテストおよび検証されることにより、顧客にはより大きな信頼が与えられます。これにより、GenAIユーザーエクスペリエンスが簡素化され、信頼できるソフトウェアスタック上で重要なAIワークロードを構築および展開するプロセスが加速します。」と述べている。
- RHEL AIは、Red Hat OpenShift AIの一部として提供されており、IBM ResearchのオープンソースGranite LLMセットと、LAB（Large-scale Alignment for chatBots）方法論とInstructLabプロジェクトに基づくモデルアライメントツールのペアという2つの主要な機能がある。
- Red HatのOpenShift AIは、分散クラスター環境全体で規模にわたってInstructLabを実行するためのハイブリッドクラウド機械学習オペレーション（MLOps）プラットフォームである。
- Dell PowerEdgeサーバー上のRHEL AIは、2024年第3四半期に利用可能になる予定である。
この記事は、デルとRed Hatが協力して、ジェネレーティブAIを採用する顧客に向けてAIワークロードを実行するためのサーバーソリューションを提供することを強調しています。RHEL AIはAI機能を強化したRed Hat Enterprise Linuxであり、IBMのグラニットLLMセットやモデルアライメントツールのような機能を提供しています。この提携により、顧客は信頼性の高いソフトウェアスタック上で重要なAIワークロードを迅速かつ簡単に展開できる利点があります。
元記事: https://blocksandfiles.com/2024/09/05/dell-serves-gen-ai-optimized-linux-from-ibms-red-hat/