- Google Cloudが第6世代のTPUsでAIインフラストラクチャの拡張
- Google Cloudは10月30日にApp Day＆Infrastructure Summitで新しいTPUsとNVIDIA GPUsでAIクラウドインフラストラクチャを強化すると発表
- Trillium NPUの第6世代は、Google Cloudの人気サービスの多くを強化し、プレビュー提供中
- Trillium NPU第6世代は、大規模言語モデルアプリケーションのトレーニング、推論、配信を91 exaflopsで実行可能
- Google Cloudは、第6世代のTrillium NPUが1枚あたりのピークコンピュート性能を5世代と比較して4.7倍に向上し、HBM容量とIC間接続帯域幅を2倍に増やす
Google CloudはAIインフラストラクチャの進化により、ビジネスや研究者がAIイノベーションの領域を再定義できるよう支援している。Trillium NPUの第6世代は、大規模な言語モデルをサポートするための必要な計算要件を満たしており、顧客からの要望に応えた製品を提供している。
元記事: https://www.techrepublic.com/article/google-cloud-trillium-nvidia-ai-infrastructure/