- インテルの元CEOであるPat Gelsingerは、半導体デザインと製造の分離を含むターンアラウンド戦略が投資家を説得できなかったため、急に退任した。
- Gelsingerは、AIハードウェアに特化したFractileという英国のスタートアップに投資したことをLinkedInの投稿で発表した。
- AIモデルの推論はハードウェアによってボトルネックとなっており、大規模な言語モデルの展開において課題がある。
- AIスケーリングの法則では、モデルサイズ、データセットサイズ、およびコンピューティングパワーが同時にスケーリングする必要がある。
- エッジAIは、推論を個人のデバイスに移動させることで、レイテンシーを改善し、コンピューティングコストを削減し、データプライバシーを向上させる。
- GelsingerはFractileのアプローチを賞賛し、推論のスケーリングにおける2つのボトルネックに取り組んでいると述べた。
- Gelsingerは推論性能の重要性を強調し、Fractileチームがこの重要な課題に取り組むことを期待している。
私の考え：Gelsinger氏のAIスケーリングとエッジAIへの関心は、AI技術の進化と将来のデータセンターの拡張において重要です。Fractileの取り組みは、推論性能を向上させる上で画期的なアプローチを示しており、今後のAIモデルの発展に寄与する可能性があります。