• Abu DhabiのTechnology Innovation Institute(TII)がRaiderChipのAIアクセラレータとFPGAベースのデモンストレータでシームレスに実行されるモデルを立ち上げ
  • 2024年12月19日にスペインで、アブダビ(アラブ首長国連邦)のTechnology Innovation Institute(TII)がFalcon 3を発表
  • Falcon 3は、1B、3B、7B、10Bパラメータの4つのサイズで利用可能
  • Falcon 3は、小さなモデルでありながら、カテゴリー内の競合するLLMsと比較して優れた性能を提供
  • RaiderChipのNPUを使用することで、新しいLLM AIモデルのサポートを簡単かつ透明に実装可能
  • Falcon 3は、低コストのハードウェアに埋め込み可能であり、RaiderChipの戦略と一致
  • Falcon 3は、多言語の理解力や生成力を提供する小さなモデルの導入により、FPGAに基づく生成AIアプリケーションの範囲と品質が向上
  • RaiderChipの低コストFPGAへのコミットメントは、先進的な人工知能へのアクセスの多様化と民主化に貢献

自分の考え:

AIの進化は、小さなサイズのモデルでも非常に優れた性能を発揮し、エッジでの活用が進んでいることがわかる。RaiderChipやFalcon 3の取り組みは、AIの普及を促進し、新しいデバイスでのAIの可能性を開拓することに貢献している。

元記事: https://www.design-reuse.com/news/57205/raiderchip-npu-falcon-3-llm.html%3Futm_medium%3Drss%26utm_source%3Ddesignreuse%26utm_content%3D98015%26utm_campaign%3D57205