要約:

  • K2はLLM360がMBZUAIとPetuumとの協力で開発した先端の大規模言語モデル(LLM)で、65兆のパラメータを誇り、完全再現性を持つ。
  • K2はApache 2.0ライセンスの下で利用可能であり、LLM360が幅広い評価を提供し、医学、数学、プログラミングなどの領域においても高いパフォーマンスを発揮する。
  • K2はLLama 2 70Bモデルと比較可能な結果を達成するために多様なデータセットを使用してトレーニングされ、その過程は透明性を重視している。
  • LLM360はK2の中間チェックポイントを公開し、研究者や開発者がモデルの進化を追跡できるようにしており、再現性を確保している。
  • LLM360はオープンリサーチラボであり、大規模モデルの研究と開発を通じてコミュニティ所有の人工知能(AGI)を実現し、大規模言語モデルの能力を向上させることを目指している。

感想:

K2は透明性とパフォーマンスに優れ、LLMの開発における新基準を確立しています。オープンソースの協力と包括的な評価を通じて、K2はAIの将来の革新に向けた倫理的な実践と幅広いアクセスを確保しています。


元記事: https://www.marktechpost.com/2024/06/01/llm360-introduces-k2-a-fully-reproducible-open-sourced-large-language-model-efficiently-surpassing-llama-2-70b-with-35-less-computational-power/