• Gen AIの開発者は、GoogleのGemini 1.5など、可能な限りの進化を遂げている。
  • AI21 Labsは、Gen AIの基盤であるLLMに関してGoogleと競合しており、新しいアプローチを提案している。
  • AI21 LabsのJambaは、transformerとSSMという第2のニューラルネットワークを組み合わせたモデルで、他のAIモデルよりも優れたパフォーマンスを示している。
  • Jambaは、256,000トークンのコンテキストウィンドウをサポートしており、他のモデルよりもコスト効率が良いとされている。

私の考え: AI21 Labsの取り組みは、従来のアプローチを超えた新しいGen AIの方向性を示しており、LLMだけではなく他の要素を組み合わせることでさらなる進化が期待されます。コンテキストの重要性や実用性に焦点を当てることで、AIの将来においてより実用的なソリューションが生まれる可能性があると感じました。

元記事: https://www.zdnet.com/article/ai-scientist-we-need-to-think-outside-the-large-language-model-box/