• ArmはArm Kleidi AIアクセラレーション技術をPyTorchとExecuTorchに統合し、AIおよび機械学習ワークロードをArmベースのハードウェアにもたらすことを目指している。
  • 2024年10月、KleidiAIはExecuTorchに統合される予定。
  • KleidiはArmの3つの柱に基づいて構築されている。
  • Armは主要な機械学習スタックのキー部分と協力し、AWSやGoogleなどのクラウドサービスプロバイダー、DatabricksなどのML ISVコミュニティと緊密に連携している。

ArmはPyTorchとTensorFlowと協力して、Arm Kleidiライブラリをこれらのフレームワークに直接統合している。KleidiはArmの開発者技術副社長であるAlex Spinelliによれば、Arm CPUs上での大規模言語モデル(LLMs)の実行が可能になり、Arm CPUs上でAIパフォーマンスの利点を拡張することが意図されている。Armは開発者にArm CPUs上でAIワークロードを構築する方法を示すデモンストレーションソフトウェアスタックを構築している。

私の考え:Armの取り組みは、ArmベースのハードウェアでのAIおよび機械学習ワークロードの最適化に向けた重要な一歩であると感じます。PyTorchやExecuTorchとの統合により、Arm CPU上でのAIパフォーマンス向上が期待されます。また、ArmがMLスタックの主要なパートナーと協力し、開発者コミュニティに示すデモンストレーションソフトウェアスタックを提供することは、Armの影響力と開発者エコシステムの拡大につながると考えられます。

元記事: https://www.infoworld.com/article/3532230/new-arm-partnerships-extend-ai-performance-from-edge-to-cloud.html