要約:

  • FuriosaAI Inc.は人工知能に特化した半導体スタートアップで、大規模言語モデルとマルチモーダルAI向けの新しいアクセラレータチップ「RNGD」を発表
  • RNGDは高性能LLMsおよびマルチモーダルモデル推論をサポートするデータセンターアクセラレータで、Nvidia Corp.のGPUの代替と位置付け
  • RNGDチップはTCPアーキテクチャをベースにし、150ワットのTDP、48ギガバイトの高帯域メモリ、1ギガヘルツの周波数などの仕様を持つ
  • 「RNGD」チップはLLMsを効率的に実行でき、OpenAIのGPT-J 6Bなどのモデルでは15.13クエリ/秒を処理可能
  • Furiosaは、チップの開発に数年を費やし、AI推論に適した持続可能でアクセス可能なソリューションを提供することを目指している

感想:

新しいRNGDチップは、大規模言語モデルとマルチモーダルAIに焦点を当てた革新的な製品であるようです。FuriosaAIのアプローチは非常に興味深く、NvidiaのGPUに対抗するという野心的な姿勢が感じられます。このような革新的な技術の登場は、AI分野におけるさらなる進歩を予感させます。

元記事: https://siliconangle.com/2024/08/26/startup-furiosaai-debuts-rngd-chip-llm-ai-multimodal-inference/