2023年は、AIが人々の驚くべき成果達成を支援する可能性を強調し、Statistaは、世界の生成AI市場規模が2022年から2023年の間にほぼ2倍になったと指摘しました。
組織が 2024 年に AI の実装に取り組む際、CIO は、効果的で安全かつ持続可能な AI の使用を確保するために、推論、検索、信頼性という 3 つの重要な要素を意思決定で考慮する必要があります。これらの要素を実装しないと、組織は AI の幻覚、不正確または古い応答、機密データが不適切な受信者の手に渡るリスクを負うことになります。
推論とは、大規模言語モデル (LLM) が正確で一貫した応答を返す機能です。推論は、クエリのニュアンスを理解し、AI の落とし穴を防ぐ働きをします。しかし、現状では、市場をリードする一部の LLM の推論機能は、高校生程度にしか進んでいません。
人間は、過去の経験、学習、日常生活でのやり取りを将来の意思決定に役立てることができます。しかし、基本的な生成 AI プラットフォームには、過去の経験から得た人間独自の知識や背景は備わっていません。経験から学習できないため、誤った推論 (「幻覚」とも呼ばれる) が生じ、誤った回答や誤解を招く回答がもたらされます。強力な推論機能を備えた LLM により、ユーザーは影響力のある関連性の高い結果を導き出すことができ、ワークフローを加速し、何時間もの検索に費やす無駄な時間を削減できます。
LLM の推論が AI の改善領域である場合、堅牢な検索フレームワーク (検索拡張生成 (RAG) とも呼ばれる) がソリューションにとって重要です。RAG により、LLM は追跡可能で参照可能な情報を入手し、信頼できるカスタマイズされた回答をユーザーに提供できるようになります。
RAG プロセスは検索フェーズから始まります。この段階では、知識検索ソリューションが、ユーザーの質問に答えるために、最も関連性の高い最新の情報を検索して入手します。検索ソリューションが最も適切な情報を入手した後、LLM は適切な知識ソースを使用して、ユーザーの質問に対する回答を構築できます。
RAG の重要性は、職場での AI について考えるときに特に明らかになります。たとえば、私は新入社員で、今後 1 年間の会社の福利厚生パッケージを把握しようとしているとします。私には、何年も前のパッケージではなく、最新のパッケージの情報を参照できる AI アシスタントが必要です。また、フォローアップの質問がある場合に連絡できる、会社の最適な人事担当者を知りたいと思うかもしれません。
このシナリオでは、RAG は Slack や Google Drive などの会社のさまざまなナレッジ ベースを精査し、私がアクセスを許可されている最も関連性の高い情報を抽出します。その後、LLM はこの情報を使用して、一貫性のある十分な情報に基づいた応答を提供できます。優れた検索システムを持たない他のソリューションでは、これらの重要な詳細を判断できない可能性があり、従業員に古くて不正確な応答を提供することになり、プロセスを加速させるどころか遅延を引き起こします。
信頼性 推論と検索が整理されたところで、現在ほとんどの企業が注目しているセキュリティについて考えてみましょう。AI がユーザー固有のアシスタントになる可能性を最大限に発揮するには、LLM が参照できる包括的な個人情報データベースが必要です。AI を活用して、独自のデータを安全に保つにはどうすればよいでしょうか。
ユーザーのデータ セキュリティを確保するには、モデルが受け取るすべての情報が各ドキュメントの固有の許可ルールに厳密に従う必要があります。この保証がなければ、AI プラットフォームが機密データを保護する方法に対するユーザーの信頼は低下します。プライバシーに関するユーザーの不安は、プラットフォームへの信頼の喪失につながり、使いやすさを妨げ、新しいテクノロジーの導入を遅らせる可能性があります。
権限を理解することで、ユーザーは AI プラットフォームを信頼してデータにアクセスし、使用することができます。自分の情報が他のユーザーにアクセスできないという安心感があります。たとえば、Glean の AI アシスタントは権限を完全に認識し、パーソナライズされており、ユーザーが明示的にアクセスできる情報のみを取得します。権限認識により、機密データのセキュリティと機密性が維持され、AI 出力の関連性とパーソナライズが向上します。
生成 AI の潜在能力がますます明らかになり、人々や組織が AI を日常生活に効果的に適用する方法を模索するにつれて、推論、検索、信頼性が主流の導入にとって最も重要な要素になります。CIO は、自分自身と組織がこれらの最新の生成 AI ソリューションと戦略を実装できるように準備する必要があります。
まず、CIO は、組織が使用するすべてのツールにわたって、会社のデータ (構造化データと非構造化データの両方) の整合性を評価する必要があります。前述のように、徹底したドキュメントとデータは、成功する生成 AI ソリューションの基盤です。知識検索ソリューションをサポートする包括的で信頼性の高いデータセットがなければ、不正確な応答や「幻覚」的な応答を受け取る大きなリスクがあります。
CIO は、組織のデータベースを評価した後、責任ある AI の使用に関する全社的なガイドラインを起草する必要があります。すべての組織に当てはまる万能のガイドラインは存在しないため、IT リーダーは社内のチームと協力してこれらのツールの使用方法を理解し、それに応じてガイドラインを起草することが重要です。
最も重要なのは、CIO が、AI の進歩に伴って組織の AI プロセスとユースケースが進化する可能性があることを認識することです。CIO は、革新的な AI ソリューションを模索し、進歩を促進するために、継続的に実験と反復を行う必要があります。
推論、検索、信頼性を最優先にすることで、CIO はユーザーが信頼できる製品を提供でき、ユーザーは AI の力を活用して生産性を高めることができます。
Forbes Technology Council は、世界クラスの CIO、CTO、テクノロジー エグゼクティブ向けの招待制コミュニティです。私は参加資格がありますか?
