- BitEnergy AI社は、AIアプリケーションのエネルギー消費を大幅に削減する方法を見つけた。
- 大規模な言語モデルは多くの計算能力を必要とし、高いエネルギー消費をもたらす。
- ChatGPTの1日の消費電力は、何万世帯分に相当する。
- 通常、計算には浮動小数点テンソル乗算が使用され、高い精度の複雑な計算を実行できるが、多くのエネルギーを消費する。
- BitEnergy AIは、新しい線形計算量の乗算L-Mulアルゴリズムを使用することを提案している。
- この手法は、精度や計算の正確さにほとんど影響を与えず、エネルギー消費が少ない。
- ただし、この技術を短期間で実装できるかどうかは疑問である。
- この手法を使用するには、現在のAIアプリケーションで使用されているハードウェアとは異なるハードウェアが必要となる。
この記事では、BitEnergy AI社が開発したエネルギー消費を削減する方法について述べられています。従来の浮動小数点乗算プロセスに整数アダーを用いる新しい線形計算量の乗算アルゴリズムを提案し、高いエネルギー効率を実現しています。しかし、実装の際には異なるハードウェアが必要となるため、短期間での実現が課題となっています。