- Skymizer社がEdgeThoughtというLLMアクセラレータを発表
- EdgeThoughtはLLMアプリケーションのパフォーマンス向上を目的とし、IoTデバイスから自動車システム、AI PCなどの広範なエッジデバイスで利用可能
- EdgeThoughtはコンパイラ中心のアプローチで設計され、最新のLLMモデルを実行できるように最適化されている
- SkymizerのLLMアクセラレータの主な特徴:
- エッジAIパフォーマンスを再定義し、アクセスしやすく、コスト効率的にする
- 10年以上のコンパイラと仮想化業界の経験を持つSkymizerが設計
- クラウドLLM推論の王であるGroqチップに対し、EdgeThoughtはエッジLLM推論のゲームチェンジャーになると述べられている
- EdgeThoughtは最新のシリコン製造プロセスを必要とせず、安価な成熟したシリコンクラスと特殊メモリコンポーネントを活用できる
- EdgeThought IPはライセンス供与可能で、既存のハードウェアに簡単に統合できる
- Skymizerは大手半導体企業やデバイスメーカーと協力し、この技術を市場に提供する準備を進めている
SkymizerのEdgeThoughtはエッジAI分野において革新的な存在であり、LLM推論の性能向上とコスト効率化に貢献する可能性があります。