- AIは接地されていない場合、ユーザープロンプトに関連する出力を予測しようとする際に、速やかにランダムならぬテキストを生成する可能性があります。
- テキストの生成には、単語の代わりにニューラルネットワークを使用して、多次元意味空間内で最も可能性の高い経路を通過する方法が採用されています。
- リトリーバル・オーグメンテッド・ジェネレーション（RAG）技術を活用するか、独自のデータでLLMを微調整することで、このリスクを軽減することができます。
- データベースをLLMに単純に接続することはできず、意味モデルがないため、データベースとLLMを関連付ける必要があります。
- ベクトルインデックスを使用した検索エンジンは、生成AIと同様の技術を使用しており、RAGアプリケーションを構築する際には、ベクトルインデックスを追加する必要があります。
私の考え：AIの生成テキストが意図しないものになる可能性を軽減するために、RAG技術やベクトルインデックスの活用が重要であると理解しました。データベースとAIを結びつける際には、適切な手法を選択することが鍵となります。
元記事: https://www.infoworld.com/article/3516437/using-the-pinecone-vector-database-in-net.html