要約:
- Microsoft AzureがMAIAに関するブログ投稿を行った。
- MAIA 100はカスタムAIアクセラレータで、OpenAIモデルの実行に特化している。
- 主な仕様には、TSMC CoWoS-Sを使用し、64GBのHBM2E、500MBのL1/L2キャッシュ、12x 400GbEネットワーク帯域幅などがある。
- 16個のクラスターがあり、NOCトポロジーでレイアウトされている。
- Maia SDKを使用し、TritonやMaia APIを介してプログラム可能。
- PyTorchモデルに対してMaia 100は直ちに使用可能。
- MAIAはEthernetベースのインターコネクトを使用し、カスタムRoCEライクプロトコルを持つ。
感想:
MAIA 100はOpenAIモデルの実行に特化したカスタムAIアクセラレータであり、64GBのHBM2Eや500MBのL1/L2キャッシュ、12x 400GbEネットワーク帯域幅など、印象的な仕様を持っています。MicrosoftはEthernetベースのインターコネクトを採用し、Maia SDKを通じてプログラム可能である点も興味深いです。NVIDIA GPUsよりも低コストで提供される可能性があるという点も、今後のAIアクセラレータ市場に影響を与えるかもしれません。
元記事: https://www.servethehome.com/microsoft-maia-100-ai-accelerator-for-azure/