ケーススタディ: Samsung SDS が Kubernetes トラブルシューティングに Retrieval Augmented Generation を使用 11/18 | Samsung SDS | 米国

サムスンSDS Gen AI Hackathonで紹介された、技術サポート向けAIベースのサービスと技術コンポーネント

• サムスンクラウドプラットフォーム（SCP）の技術サポート記録の分析によると、約68%のケースがユーザー自身によってガイドによって解決された。
• SCPのKubernetes Engine-GPT（SKE-GPT）は、SCPのKubernetes Engineで発生する問題を迅速に分析し、正確な解決策を提供するAIベースのクラスタ診断ツールである。
• SKE-GPTは、RAGテクノロジーを活用して、LLMモデルが学習していないデータやリアルタイム情報を提供することができる。
• RAGでは、Indexing、Retrieval、Generationのコンポーネントが含まれ、ユーザーの質問に類似するドキュメントを検索し、LLMにクエリを送信して回答を生成する。
• RAGは、AIベースのサービスの中核的な機能になることが期待されており、多様な形式のデータ（画像、音声、動画）を処理するマルチモーダル機能を取り入れることで、豊富で多様な情報を処理することに貢献する。

感想

RAGを活用することで、AI技術がさらに進化し、様々な形式のデータを取り扱うサービスにおいて多様な情報処理が可能となることが明らかです。特に、RAGの実装により、技術サポートや知識共有、業務効率向上など様々な分野で企業が競争力を高める機会が生まれると考えられます。セキュリティやデータの安全性に配慮しつつ、RAGを活用することで、企業がより効果的に意思決定やサービスの改善を行うことができると感じました。