要約：
- Magicは、最新の言語モデルが1億トークンのコンテキストウィンドウを持つと主張している。
- この長いコンテキストウィンドウは、750冊の小説を含めることができ、従来のモデルよりもはるかに大きい。
- Magicは、新しいツールHashHopを使用してモデルを評価し、95％の精度で100億トークンのコンテキスト内のハッシュを回収した。
- 長いコンテキストウィンドウは、モデルのパフォーマンス向上に対する代替方法よりも優れているとされる。
- 研究者たちは、RAGと長いコンテキストウィンドウを組み合わせることで、より効率的なソリューションを提供できると考えている。
感想：
Magicの最新の言語モデルの1億トークンのコンテキストウィンドウは、大きな進歩であると言えます。HashHopを使った評価結果も非常に興味深いです。長いコンテキストウィンドウがモデルのパフォーマンス向上に貢献する可能性があることが示唆されており、今後の研究や実装に期待が高まります。また、RAGと長いコンテキストウィンドウを組み合わせることで、より効率的なソリューションが提供できるという見解も興味深いです。
元記事: https://spectrum.ieee.org/ai-context-window