要約:
- Etched.aiは、AIチップのスタートアップで、SohuというAIチップを開発し、大規模言語モデル（LLM）に基づくトランスフォーマーモデルをトレーニング、展開、最適化することができると主張。
- Etchedのアルゴリズム固有ASICチップは、一般的なAIモデルを実行できないが、設計された特定のトランスフォーマーモデルのみを実行し、従来のGPUより効率的であると述べている。
- Sohuは、Google、Meta、Microsoft、OpenAI、Anthropicなどのすべてのモデルをサポートし、将来のモデルの調整も可能。
- Etchedは、SohuがNvidiaの今後のBlackwell GPUよりも速く、安価であると主張し、8チップのSohuサーバーが1秒あたり50万以上のLlama 70Bトークンを処理できるとしている。
- EtchedのCEOは、トランスフォーマーが世界を支配するという見込みから、Sohuサーバーが160台のH100 GPUを置き換えるだろうと述べている。
考察:
Etched.aiのSohuチップは、特定のAIモデルに特化しており、従来のGPUよりも効率的であると主張しています。NvidiaのBlackwell GPUよりもはるかに速く、安価であるとの主張は注目に値します。AIの進化において、特化したチップが汎用GPUよりも優れた性能を発揮する時代が訪れたというCEOのコメントは興味深いものです。