• LLMsの進化
  • 新しいモデルの開発と競争
  • AppleのApple Intelligenceの導入
  • Appleのクローズドソースモデルについて

LLMsの進化は急速であり、毎月新しいモデルが開発されて市場のトップスコアラーを超える。この健全な競争は新しいアプローチを生み出し、品質とスピードを向上させるのに役立っている。さらに、企業は強力なコンピューティングリソースを持たない個人や組織にアクセス可能な小規模モデルの開発に焦点を当てている。

わずか数週間前、AppleはWorldwide Developers ConferenceでApple Intelligenceを発表した。これは複数の生成モデルで、テキストの作成と洗練、通知の優先順位付けと要約、画像の作成、アプリ内アクションの実行を支援するように微調整されている。Appleがそのスイートで開発した唯一の基盤となる独自のモデルが同じカンファレンスで紹介された。これはハードウェアが重要な制約となる端末で実行される小規模モデルであり、Appleの場合、クローズドソースである。わかっていることは、Appleの共有した結果によると、これは7bバージョンのGemma、Mistral、Llama 3に匹敵する約30億パラメータのモデルである。

考察: LLMsの進化はAI技術の発展において重要であり、競争が革新を促進している。Appleの導入したApple Intelligenceは、ユーザーに多様な機能を提供する先進的な取り組みであり、クローズドソースモデルの導入は企業が独自技術を保護するための一手段として理解される。

元記事: https://towardsdatascience.com/gemma-vs-llama-vs-mistral-exploring-smaller-ai-models-672a95f4b9b7