- LLMには知識の切れ端があり、特定のデータに関するクエリに答えることができない。
- Retrieval Augment Generation（RAG）ソリューションは、外部ドキュメントをLLMに統合し、外部知識ベースからの質問にのみ回答させることを目的としている。
- Anthropicは、文脈を各チャンクに追加する方法を導入し、単純なRAGよりも性能が向上した。
- Anthropicの文脈検索実装は、低コストで多モーダルなRAGソリューションであり、BM25検索と再ランキングによるリトリーバル性能の向上が図られている。
この記事では、LLMの制限を克服するための方法として、AnthropicのRAGソリューションが紹介されており、文脈を追加した多モーダルなアプローチが性能向上に貢献しています。これにより、外部知識ベースに対する質問に特化した回答が可能となります。低コストで高性能なリトリーバル手法として、BM25検索と再ランキングを組み合わせた手法が提案されています。