• Metaは、RSCインフラストラクチャを構築し、リアルタイム音声翻訳、言語処理、コンピュータビジョン、拡張現実(AR)の進歩に活用している。
  • Metaは、24k-GPUクラスターを2つ構築し、RoCEとInfiniBandを使用している。
  • Metaは、GenAIファブリックのために両方の実装から運用経験を得ることを目指している。
  • Metaは、オープンコンピュートとオープンソースの原則にコミットメントしており、Grand Teton、OpenRack、PyTorchを使用してクラスターを構築している。
  • Metaは、2024年末までに350,000 NVIDIA H100 GPUを含むインフラを拡張する計画を立てている。

MetaのAIインフラストラクチャは、ネットワーク、計算、ストレージ、パフォーマンス最適化の主要なコンポーネントを強調したアーキテクチャ図を示しています。

Metaの取り組みは、AI技術の発展を推進するために、パワフルな計算システムが必要であることを強調しています。大規模なAIモデルトレーニングのエネルギー消費に関する環境への懸念も浮上しており、エネルギー効率の良いGPUへの投資が重要であると指摘されています。

元記事: https://www.infoq.com/news/2024/08/meta-real-time-voice-translator/