- SkymizerはET2 LPUチップハードウェアIPとSkymizer LLMシステムプラットフォームを発表し、チップIPソリューション市場に参入
- 製品価格は100〜500米ドルで、消費者向けエレクトロニクスおよび自動車部門をターゲットに
- LLM技術を人間と機械のインターフェースとして活用し、AI PC市場にも展開
- LLMは人間と機械のコミュニケーションの新しいインターフェースを表す
- Skymizerはエッジコンピューティングに向けて小さなモデルを開発し、ジェネレーティブAIの展開課題に取り組んでいる
Skymizerの取り組みは、新しいLLMチップ製品の普及を期待しており、AI技術の急速な進化との不整合を解消するためにLLMシステムプラットフォームを活用しています。また、低コストで低消費電力のハードウェアIPを開発することで、LLM展開に関連する高コストや消費電力の課題に対処しています。
LLMに焦点を当てたET2 LPUは、伝統的な畳み込みニューラルネットワーク（CNN）アプローチとは異なり、メモリを中心に設計されています。LLMは高い計算パワーを必要とせず、メモリ帯域幅が重要なボトルネックであるため、新しいDRAM設計アーキテクチャが必要とされます。
ET2 LPUは、TSMCの28nmプロセスを使用して製造され、0.4 TOPsの計算パワーで優れた性能を達成し、32トークン/秒を処理できます。顧客アプリケーションに応じて計算パワー要件が異なり、子供向けの安価な玩具などは低スペックのLPUsを使用しており、NPUsよりもコスト効率が高く省電力です。
Skymizerのアプローチは、ジェネレーティブAIの展開に向けた新しい技術アプローチを示しており、将来的にLLMチップ製品が普及することが期待されます。