• ArmはArm Kleidi AIアクセラレーションテクノロジーをPyTorchとExecuTorchと統合する
  • 2024年10月にKleidiAIがExecuTorchに統合される予定
  • KleidiはArm CPU上で大規模な言語モデル(LLMs)を実行可能にする
  • Kleidiは3つの柱に基づいて構築されている

ArmはPyTorchやTensorFlowと協力し、Arm Kleidiライブラリをこれらのフレームワークに直接統合している。KleidiはArm CPU上でのAIパフォーマンス向上を可能にし、新しいフレームワークバージョンがリリースされた際にもパフォーマンスの向上を提供する。Armは開発者向けにクラウドサービスプロバイダーやML ISVコミュニティ等と緊密に連携し、Arm CPU上でAIワークロードを構築する方法を開発者に示すデモソフトウェアスタックを構築している。

元記事: https://www.infoworld.com/article/3532230/new-arm-partnerships-extend-ai-performance-from-edge-to-cloud.html