- テンセントのIntelligent High-Performance Networkの2.0バージョン（Xingmaiとしても知られる）は、ネットワーク通信とLLMトレーニングの効率をそれぞれ60％と20％向上させる。
- 中国のAIはChatGPTに対してどのように優れているか。
- HPCネットワークは、パワフルなGPUクラスタを接続して、データを処理し問題を非常に高速で解決する。
- 従来のHPCネットワーク技術では、計算クラスタが他のクラスタと通信するのに余分な時間を費やしており、GPU容量の大部分がアイドリングしていた。
- テンセントは、通信プロセスを高速化し、コストを削減するためにネットワークをアップグレードした。
- Xingmaiネットワークは、1つの計算クラスタを10万以上のGPUでサポートでき、2023年にリリースされたネットワークの初期バージョンからスケールを倍増させた。
- 性能向上により、問題の特定に必要な時間が以前の数日から数分に短縮された。
- テンセントは、急速に成長しているAI分野で技術を強化するために積極的な取り組みを行っている。
- 深センに拠点を置くテンセントは、企業向けに自社製のLLMを推進しており、他の企業が独自のモデルを構築するのを支援している。
- 百度の創設者兼CEOであるRobin Li Yanhongは、Ernie LLMのトレーニング効率が1年で5倍以上向上したと述べた。モデルの推論パフォーマンスは105倍に向上し、推論コストが99％削減された。
今回の記事では、テンセントが自社のネットワーク技術の進化により効率を向上させる取り組みを行っていることが紹介されています。特に、HPCネットワークのアップグレードによって通信プロセスの高速化やコスト削減が実現されており、AI分野において急速な技術革新が行われていることが伺えます。