要約:
- FuriosaAI Inc.は人工知能に特化した半導体スタートアップで、大規模言語モデルとマルチモーダルAI向けの新しいアクセラレータチップ「RNGD」を発表
- RNGDは高性能LLMsおよびマルチモーダルモデル推論をサポートするデータセンターアクセラレータで、Nvidia Corp.のGPUの代替と位置付け
- RNGDチップはTCPアーキテクチャをベースにし、150ワットのTDP、48ギガバイトの高帯域メモリ、1ギガヘルツの周波数などの仕様を持つ
- 「RNGD」チップはLLMsを効率的に実行でき、OpenAIのGPT-J 6Bなどのモデルでは15.13クエリ/秒を処理可能
- Furiosaは、チップの開発に数年を費やし、AI推論に適した持続可能でアクセス可能なソリューションを提供することを目指している
感想:
新しいRNGDチップは、大規模言語モデルとマルチモーダルAIに焦点を当てた革新的な製品であるようです。FuriosaAIのアプローチは非常に興味深く、NvidiaのGPUに対抗するという野心的な姿勢が感じられます。このような革新的な技術の登場は、AI分野におけるさらなる進歩を予感させます。