- Elon Muskは、xAIのGrok 3大規模言語モデル（LLM）が、Grok 2よりも10倍の計算能力を必要とする前処理が完了したことを発表
- Grok 3はColossusスーパークラスターで前処理され、約10万のNvidia H100 GPUを搭載
- Grok 3の前処理は、Colossusスーパーコンピューターを使用し、Grok 2の10倍の計算量を利用
- xAIは、Colossusなどのシステムを必要とし、競合他社（OpenAI、Google DeepMind、Anthropic）との競争に追いつくために大規模AIプロジェクトを加速
- xAIは、将来的に100万以上のGPUを搭載したスーパーコンピューターを展開し、人工知能の最終目標である人工汎用知能に近づくことを目指す
私の考え：xAIの取り組みは、巨大な計算リソースを利用して次世代の大規模AIモデルを開発することで、人工知能の発展に貢献している。Colossusなどのシステムの拡張は、将来的により高度なモデルの開発を可能にし、人工汎用知能に向けた革新が期待される。