要約
- 長い会話のための記憶LLMに関するアイデア
- 「ベクトルサマリー」の概要：会話全体の数値表現を捉えることで、会話の意味コンテンツを圧縮した形で表現
- 専用の小さなLLMを使用して、長い会話の要約とメモリ管理を行う提案
- 特化型要約LLM（例：GPT-4o Nano）の使用
- 主要ポイントとコンテキストの注入、他のメモリシステムとの統合も検討
考察
長時間の会話コンテキストを維持する課題に対する革新的かつ実用的な解決策として、専用の小さなLLMを使用する提案は興味深い。これにより、LLMで人間の記憶とリコールに似たものが生まれ、詳細な会話参照やトレーニング後の学習が可能になるかもしれない。既存の「Memories」という機能と同様のものかもしれないが、このアイデアは新しい視点を提供している。
元記事: https://community.openai.com/t/vector-summarisation-to-improve-llm-long-term-memory/891722