- Abu DhabiのTechnology Innovation Institute (TII)がRaiderChipのAIアクセラレーターとFPGAベースのデモンストレーターでシームレスに動作するモデルを発表
- 2024年12月19日 スペイン — 12月17日、アブダビ（アラブ首長国連邦）のTechnology Innovation Institute (TII)はFalcon 3を発表、1B、3B、7B、10Bのパラメータで利用可能な新しいオープンソースの生成AIモデル。Falcon 3は、サイズによる小規模モデルとして、同カテゴリーの競合するLLMと比較して優れた性能を提供
- RaiderChipの技術で、新しいLLM AIモデルのサポートを実装することは簡単かつ透明。ハードウェアNPU内でFalcon-3推論を完全に加速するには、ファームウェアの更新のみが必要
- RaiderChip NPUは、BF16ウェイトを使用してFalcon-3 1B LLMを完全スタンドアロンおよびオフラインで実行
- Falcon 3の設計は、軽量インフラの効率化に最適化されており、RaiderChipにとって特に魅力的。RaiderChipの戦略と一致して、リソースが限られた低コストハードウェアに埋め込むことができる生成AIソリューションを提供することを目指す
自分の考え：
RaiderChipの技術によって、Falcon 3はローカル、オフライン、オンプレミスで動作し、新しいデバイスで新たな生成AIの可能性を開拓することができる。これは、将来的には会話アシスタントや推薦システム、データ分析プラットフォームなど、多言語にわたる生成AIアプリケーションの範囲と品質を高めることが期待されている。RaiderChipの低コストFPGAへの取り組みは、高度な人工知能へのアクセスの多様化と民主化に貢献しており、これはFalcon 3が強力でアクセス可能なモデルをすべてのユーザーに提供する哲学と一致している。