要約:
- Untether AIは、energy-centric AI inference accelerationのリーダーで、imAIgine Software Development Kit (SDK)の早期アクセス(EA)を発表。
- imAIgine SDKは、トレーニング済みのニューラルネットワークモデルを最適化された推論用モデルに変換して、speedAI推論アクセラレーションソリューションで実行するプロセスを簡素化する。
- imAIgine SDKは、TensorFlowまたはPyTorchをサポートし、ユーザーは簡単なPythonコマンドを使用して数分でモデルをspeedAIハードウェアで実行できる。
- power-user flowを使用すると、ユーザーはspeedAIデバイス内の1,400を超えるRISC-Vプロセッサと350,000を超えるat-memoryコンピュート処理要素用に最適化された“bare metal”カーネルを直接開発できる。
- imAIgine SDKには、speedAIデバイスでネットワークがどのように実行されているかを分析するためのいくつかのツールが含まれている。
感想:
Untether AIのimAIgine SDKは、ニューラルネットワークの推論加速ソリューションを簡素化し、ユーザーは簡単にモデルをデプロイできるようになる。特にpower-user flowでは、ユーザーが最適化されたカーネルを直接開発できる点が注目に値する。また、imAIgine SDKに含まれる分析ツールは、speedAIデバイス上でのネットワークの実行状況を詳細に把握するのに役立つ。