- ArmはArm Kleidi AIアクセラレーション技術をPyTorchとExecuTorchに統合し、AIおよび機械学習ワークロードをArmベースのハードウェアにもたらすことを目指している。
- 2024年10月、KleidiAIはExecuTorchに統合される予定。
- KleidiはArmの3つの柱に基づいて構築されている。
- Armは主要な機械学習スタックのキー部分と協力し、AWSやGoogleなどのクラウドサービスプロバイダー、DatabricksなどのML ISVコミュニティと緊密に連携している。
ArmはPyTorchとTensorFlowと協力して、Arm Kleidiライブラリをこれらのフレームワークに直接統合している。KleidiはArmの開発者技術副社長であるAlex Spinelliによれば、Arm CPUs上での大規模言語モデル(LLMs)の実行が可能になり、Arm CPUs上でAIパフォーマンスの利点を拡張することが意図されている。Armは開発者にArm CPUs上でAIワークロードを構築する方法を示すデモンストレーションソフトウェアスタックを構築している。
私の考え:Armの取り組みは、ArmベースのハードウェアでのAIおよび機械学習ワークロードの最適化に向けた重要な一歩であると感じます。PyTorchやExecuTorchとの統合により、Arm CPU上でのAIパフォーマンス向上が期待されます。また、ArmがMLスタックの主要なパートナーと協力し、開発者コミュニティに示すデモンストレーションソフトウェアスタックを提供することは、Armの影響力と開発者エコシステムの拡大につながると考えられます。