- LLM推論のコストは毎年10倍に下がっており、これはPC革命時のコンピューティングコストやドットコムブーム時の帯域幅よりも速い
- 2021年11月にGPT-3が公開されると、1000万トークンあたり60ドルでMMLUスコア42を達成したが、最も安いモデルで同じスコアを達成できるようになった
- LLM推論のコストは3年で1000分の1に低下した
- GPUのコストと性能の向上、モデル推論の効率化、ソフトウェア最適化によりコストが低下
- 小さなモデルも重要であり、10億パラメータモデルが3年前の現行の1750億パラメータモデルを凌駕する
- LLM推論のコスト低下はAI全体にとって巨大な利点であり、新しい商業的に実現可能でなかったユースケースが開かれる
自分の考え:
LLM推論のコストが毎年10倍に下がっているというのは、AI分野において大きな進歩だと思います。このような急速なコスト低下は、AI技術のさらなる発展を促進し、新たなビジネスチャンスを生み出す可能性があります。GPUやモデル最適化の進歩が、このコスト低下に貢献していることから、技術革新がAI分野に与える影響はますます大きくなると考えられます。
元記事: https://www.thestack.technology/genai-costs-moores-law/