• AIトレーニングコストは年々指数関数的に増加している。
  • AnthropicのCEOであるDario Amodeiは「In Good Company」ポッドキャストで、今日の開発中のAIモデルのトレーニングコストが最大で10億ドルに達する可能性があると述べた。
  • AIモデルは年々10倍ずつ強力になるため、トレーニングに必要なハードウェアもそれに見合った強力さが求められる。
  • 昨年は、データセンターには380万以上のGPUが納入された。
  • AI企業は、チップハードウェアの供給だけでなく、電力供給や関連インフラにも注意を払う必要がある。

私の考え:AI技術の急速な進歩は驚くべきものであり、ハードウェア革新がそれに追いついているように見えます。しかし、AI技術が新世代ごとに指数関数的に優れていく中、私たちの社会の未来にどのような影響を与えるかという大きな疑問が残っています。

元記事: https://www.tomshardware.com/tech-industry/artificial-intelligence/ai-models-that-cost-dollar1-billion-to-train-are-in-development-dollar100-billion-models-coming-soon-largest-current-models-take-only-dollar100-million-to-train-anthropic-ceo