要約:

  • Gen AI開発者は、GoogleのGemini 1.5など、可能な限りの進化を遂げている。
  • AI21 Labsは、Googleと競合しながら、LLM(大規模言語モデル)に新しいアプローチを提唱している。
  • AI21 LabsのJambaモデルは、他のAIモデルを上回る性能を示し、コンテキスト長の重要性を強調している。
  • Jambaは、MetaのLlama 3.1よりも経済的であり、コンテキスト長の向上に成功している。
  • AIの将来において、コンパウンドAIシステムやMRKL(Modular Reasoning, Knowledge, and Language)システムなど、新たなアプローチが求められる可能性がある。

感想:

Gen AIの進化は、単なる大規模言語モデルの拡大ではなく、新たなアーキテクチャやアプローチが必要とされています。AI21 LabsのJambaモデルのような革新的な取り組みは、コンテキスト長の重要性を示し、AIの将来において他のAIシステムや新たなツールの探求が重要であることを示唆しています。今後のAIの発展には、単なる大規模言語モデルだけではなく、複合AIシステムや新たなアプローチが必要とされるでしょう。


元記事: https://www.zdnet.com/article/ai-scientist-we-need-to-think-outside-the-large-language-model-box/