要約:
- M5Stackが新しいハードウェアリリース、M5Stack LLM Moduleを発表
- LLM Moduleはオフラインの大規模言語モデル（LLM）推論モジュールで、効率的かつ知的なインタラクションを必要とする端末デバイス向けに設計されている
- LLM ModuleはAxera AX630C SoCによって駆動され、Arm Cortex-A53コア2基（最大1.2GHz）とNPU（3.2 TOPSのINT8精度、最大12.8 TOPSのINT4精度）を組み合わせている
- モジュールには統合マイクとスピーカーがあり、eMMCモジュールにはUbuntu Linuxがプリインストールされており、microSDカードスロットを介してアップグレード可能
- ソフトウェア的にはQwen2.5-0.5Bモデルが搭載されており、将来のアップデートでより高性能なモデルのサポートが予定されている
- USBカメラに接続すると、コンピュータビジョンモデルもサポートされ、将来のアップデートで他の高度なモデルも追加予定
- M5Stack LLM ModuleはM5Stackストアで$49.90でリストされており、Core、Core2、CoreS3、Core MP135の開発ボードと互換性がある
感想:
このM5Stack LLM Moduleは、オフラインで大規模な言語モデルを使用し、端末デバイスで効率的かつプライバシーを確保しながら自然なAI体験を提供する点が興味深い。ハードウェアとソフトウェアの両面での高い性能と拡張性があり、将来的なアップデートでさらに多くのモデルがサポートされる点も期待できる。