• IBMが光学技術の大幅な進歩を達成、データセンターにおける生成AIモデルの訓練と実行を劇的に改善
  • 新しい共包装光学技術は、ファイバーオプティクスのパワーをチップにもたらし、データセンター内で光速の接続を実現
  • IBMのMukesh Khare氏によると、通信業界はより速いチップの構築で大きな進歩を遂げているが、チップ同士の通信速度はそれに追いついていない
  • 新しいポリマーオプティカルウェーブガイド(PWG)技術により、共包装光学技術が可能になり、データ転送速度が飛躍的に向上
  • 共包装光学技術により、現在の電気技術を使用するチップ間通信よりも80倍高速なデータ転送が可能で、エネルギー消費も5倍以上削減
  • 大規模言語モデル(LLM)のトレーニングも最大5倍高速化、標準LLMのトレーニング時間を3か月から3週間に短縮
  • GPUやアクセラレータ同士の高速通信を可能にし、高帯域幅データの伝送方法を再定義
  • IBMのKhare氏は、光の力をもたらすことでGen AIなどの世界を加速できることに興奮していると述べた
  • 技術の商業化時期について聞かれたKhare氏は、「IBMの研究部門は使用に関して準備ができている」と回答

この技術の進歩はデータセンターにおける生成AIモデルの訓練と実行を劇的に改善し、データ転送速度やエネルギー消費の面で大きな進歩をもたらすと考えられます。共包装光学技術により高速なデータ転送が可能になり、大規模言語モデルのトレーニング時間の短縮や性能向上が期待されています。また、光の力を活用することで、高帯域幅データの伝送方法を再定義し、Gen AIなどの分野を加速させる可能性があります。

元記事: https://www.fierce-network.com/cloud/new-ibm-optical-tech-lets-chips-talk-each-other-80-times-faster