- AI Infra @ Scale 2024 でのトークで、Meta のソフトウェアエンジニアである Joel Colburn、テクニカルリードの Junqiang Lan、ソフトウェアエンジニアの Jack Montgomery が、Meta の内製トレーニングおよび推論アクセラレータである MTIA の第2世代について議論。
- Meta の初めての AI ワークロード用のカスタムシリコンの第2世代を構築するための共同設計プロセスについてカバー。
- PyTorch ソフトウェアエコシステムや Meta の主要アプリケーション用のモデルアーキテクチャなど。
- MTIA が生産モデルを成功裏に展開するためのパフォーマンス、効率、および開発者体験をどのように実現しているかをデモ。
- Meta のモデルを加速するために特別なシリコン機能が活用される共同設計の例も紹介。
Meta はオープンソース技術を通じてコミュニティを構築することを信じています。人工知能、データインフラストラクチャ、開発ツール、フロントエンド、言語、プラットフォーム、セキュリティ、バーチャルリアリティなど、最新のプロジェクトをご覧ください。
Meta のエンジニアリングは、Meta で大規模な技術的課題をどのように解決しているかに興味を持つエンジニア向けの技術ニュースリソースです。
コンテンツをパーソナライズし、広告をカスタマイズし、測定し、安全な体験を提供するために、クッキーを使用しています。サイトをクリックまたはナビゲートすることで、Facebook の外で情報を収集することに同意したことになります。クッキーに関する詳細や利用可能なコントロールについては、Cookie ポリシーをご確認ください。
元記事: https://engineering.fb.com/2024/08/22/ml-applications/meta-mtia-hardware-co-design/