要約:

  • DeepSeek-R1 671Bは、市場で最高のオープンソースの推論モデルであり、SambaNova Cloudで利用可能です。
  • このモデルは、198トークン/秒/プロンプトの速度で動作します。
  • モデルはMixture of Experts(MoE)アーキテクチャを使用し、数学と推論タスクで優れたパフォーマンスを発揮します。
  • SambaNovaのRDUハードウェアアーキテクチャにより、新しい推論性能が実現されました。
  • DeepSeek-R1を試すためにSambaNova Cloudにサインアップできます。

感想:

DeepSeek-R1は、推論モデルとして極めて高い性能を示し、SambaNovaのハードウェアアーキテクチャによって新たな推論性能が実現されました。モデルの性能とコスト効率は高く評価されており、開発者にとって貴重なツールとなっています。


元記事: https://sambanova.ai/blog/sambanova-cloud-launches-the-fastest-deepseek-r1-671b