No JitterはInforma PLCのInforma Tech部門の一部です。
このサイトは Informa PLC が所有する企業によって運営されており、すべての著作権は同社に帰属します。Informa PLC の登録事務所は 5 Howick Place, London SW1P 1WG です。イングランドおよびウェールズに登録されています。番号 8860726。
Yellow.ai は、Orchestrator LLM を発表しました。これは、「パーソナライズされ、状況に応じた会話をしながら、最も適切な次のステップ」を決定できる生成 AI エージェント モデルです。Orchestrator LLM は、顧客との会話を分析し、複数の会話の意図を認識し、ユーザーをサービス/サポート問題の解決に導くことができる顧客対応チャットボットです。
そのために、Orchestrator LLM は過去のやり取り (顧客履歴) にアクセスし、それらの以前のクエリを使用して現在の顧客との会話にコンテキストを追加します。Orchestrator LLM は事前のトレーニングを必要とせず、ナレッジ ベースから情報を取得したり、新しい会話フローを開始したり、ライブ エージェントにエスカレーションしたりして、顧客の要求に最も適切に応答する方法を決定できます。
No Jitter (NJ) は、Orchestrator LLM の仕組みについていくつか質問しました。Yellow.ai の CEO である Raghu Ravinutala が電子メールで回答しました。
NJ: プレスリリースでは、Orchestrator LLM は「トレーニング不要」で「事前のトレーニング」も不要と書かれていますが、これはどういう意味ですか? 1 月に Yellow.ai と話をしたとき、Yellow.ai のソリューションはエンタープライズ データでトレーニングされた微調整されたモデルを使用し、その上で検索拡張生成 (RAG) を行って応答を基盤化するとおっしゃっていましたね。
Raghu Ravinutala (RR): Orchestrator LLM は、プロンプト/説明に基づいて意図を識別できる LLM である Llama 2.0 をベースにトレーニングされた Yellow.ai のもう 1 つの社内 LLM です。したがって、ボットに追加してもトレーニングは必要ありません。この LLM が意図の識別を行い、ボットがユーザーのクエリをより正確に理解できるようにします。意図を認識し、会話をナレッジ ベースの質問に導き、雑談を含むカジュアルな会話を管理し、会話をリードしながら、話題から外れた議論から本題にスムーズに移行できます。
NJ: Orchestrator ページのアーキテクチャ グラフィックを見ているのですが、何を表しているのかわかりません。Orchestrator LLM は、人間のように動作し、他のモデルに指示や割り当てを行ってインタラクションを処理する LLM ですか? それとも、Orchestrator LLM 自体が、さまざまな着信インタラクションを処理し、それらのインタラクションを処理するためにどのツール (ナレッジ ベース、製品検索、ライブ エージェント) を展開するかを決定する「AI エージェント」ですか?
RR: ユーザーからのリクエストを受信すると、ツールや会話フロー、ナレッジベース内のドキュメント、過去の会話履歴に関する必要な情報がすべてシステムプロンプトの形式で提供され、AI エージェント モデルが自動的に処理します。このようにして、Orchestrator LLM はユーザーのメッセージの意図に基づいてアクションを決定し、それに応じて応答します。
アーキテクチャ [図] は、顧客クエリのジャーニーを示しており、その意図に応じて複数のオプションが提供されます。たとえば、顧客クエリが特定の製品に関するものである場合、Orchestrator LLM はその意図を識別し、「製品検索」をトリガーし、適切な応答を取得して、顧客に応答します。これらはすべて動的に実行されます。
NJ: Orchestrator はどのように「決定」するのでしょうか? その決定は何に基づいて行われるのでしょうか?
RR: 各ボットは、ツールの説明とユーザーの会話履歴を含むシステム プロンプトに基づいて動作し、受信したユーザー メッセージに応じてアクティブにする適切なツールを決定します。これらの決定は、注文のキャンセル、エージェントへの接続、アカウント ID の取得など、ユーザーの意図によって決まります。
(NJ: 次のグラフィックには、そのプロセスを説明するために Yellow.ai が提供したサンプルの会話が含まれています。従来のチャットボットの機能と Orchestrator LLM が提供できるエクスペリエンスを比較しています。)
NJ: 「システム プロンプト」とはどういう意味ですか? また、企業は Orchestrator が不適切なプロンプトを出さないようにするにはどうすればよいでしょうか?
RR: 「システム プロンプト」という用語は、仕組みを説明する方法にすぎません。Orchestrator LLM は、ユーザー レベルでのさまざまな目標、サードパーティ ベンダーや他の社内 Yellow.ai LLM からの複数の AI ツールやモデル、支払い、CRM などのエンタープライズ アプリケーションをオーケストレーションできます。
Orchestrator LLM は、既存のツール、過去の会話、最新のメッセージから情報を収集してプロンプトを作成します。このプロンプトは応答を生成するために使用され、会話がより動的でスムーズになります。企業やブランドは、Orchestrator LLM 対応のボットを活用することで、これまでよりも多くの顧客からの問い合わせを処理し、コンテキストの切り替えを処理できるようになります。
Orchestrator LLM を使用すると、企業はボットが実行できるアクションと回答を完全に制御できます。ボットで定義されたアクションと回答から、特定のユーザー メッセージの意図を識別します。ボットで定義されていない回答は、ナレッジ ベースの取得またはフォールバックに送られ、ボットが不要な回答をしないように制限されます。
No Jitterは今年初めにYellow.aiのRavinutala氏と話をした。
同社は開発中のソリューションを「ブランド、チーム、従業員の AI バージョン」と表現した。
AWS、RingCentral、Qualtrics、SymphonyAI、Avaamo からの Gen AI に関するニュース。また、Calendy の新しいブラウザ拡張機能により、会議のワークフローが簡素化されます。
Five9 の CTO 兼 AI 責任者が、コンタクト センター マネージャーが Gen AI モデルの技術的な詳細ではなく、解決しようとしているビジネス上の課題に重点を置くべき理由について意見を述べています。
AI の誇大宣伝は、実証可能なビジネス上のメリットに変換されなければなりません。
Copyright © 2024 Informa PLC。Informa PLCはイングランドおよびウェールズに登録されており、会社番号は8860726です。登録住所および本社は5 Howick Place, London, SW1P 1WGです。
元記事: https://www.nojitter.com/ai-automation/no-jitter-midroll-yellowai-debuts-orchestrator-llm-ai