No JitterはInforma PLCのInforma Tech部門の一部です。
このサイトは Informa PLC が所有する企業によって運営されており、すべての著作権は同社に帰属します。Informa PLC の登録事務所は 5 Howick Place, London SW1P 1WG です。イングランドおよびウェールズに登録されています。番号 8860726。
このシリーズのパート 1 では、生成 AI の仕組みと LLM のトレーニング方法の概要を説明しました。パート 2 では、UCaaS プラットフォームの機能の概要と、会議の要約とテキストの絞り込みという 2 つの主要なユースケースについて詳しく説明しました。そしてパート 3 では、これらの UCaaS プラットフォームで Gen AI を使用することに伴うリスクについて説明します。
私たちは、Gen AI がコミュニケーションやコラボレーションのユースケースに関連するビジネス成果を向上させる機会がたくさんあると考えています。また、私たちのテストに基づいて、AI の報酬は潜在的な AI リスクとバランスを取る必要があると感じています。場合によっては、潜在的なリスクをよりよく理解している人は、この記事で説明したリスクによる悪影響に遭遇する可能性が低くなります。
私たちは、UCaaS Gen AI のリスクを次の 3 つの領域で調査します。
MIT Technology Review の最近の記事のタイトルは、この状況を適切に表現しています。「大規模な言語モデルは驚くべきことを実現できます。しかし、その理由を正確に知っている人は誰もいません。」
よく言われる口語的な狂気の定義の 1 つは、同じことを何度も繰り返して、異なる結果を期待することです。ただし、「LLM の狂気」は、同じプロンプトを何度も繰り返して、同じ結果を期待することと表現した方が適切でしょう。
LLM は確率的であり、プログラム的ではありません。つまり、同じ入力が同じ出力を生成する可能性は低いということです。投資信託の広告でよく言われるように、「過去のパフォーマンスは将来の結果を示すものではありません。」
Gen AI の結果は多くの場合正しいかもしれませんが、時には間違っていることもあります。そのため、著者は AI によって生成された出力のレビューを奨励および促進するメカニズムとベスト プラクティスを強く提唱しています。
次の図は、さまざまなユースケースに関連する、検出されない不正確な Gen AI 情報のリスクに関する当社の見解を示しています。最も価値の高いユースケースのいくつかは、不正確な情報が発生する可能性が最も高いユースケースに関連しています。
たとえば、翻訳には大きな価値があり、異なる言語を話す人々が効果的にコミュニケーションをとることを可能にします。概念上、翻訳が使用されるのは、参加者が両方の言語に堪能ではないためであり、不正確な情報が検出されないリスクが高くなります。そのため、注意深く注意を払っていても、不正確に翻訳されたコンテンツが検出されない可能性があります。誤解のないよう明確に言うと、これは AI による翻訳が間違っていることが多いことを示唆しているのではなく、間違っている場合は不正確な情報が広まる可能性が高いことを示唆しています。
要約も同様に、ユーザーはドキュメント全体、長いメール、またはチャット スレッドを読むことはないと想定されているため、Gen AI が生成した要約に依存します。この場合のリスクは、要約で記載されている例外が省略されたり、ある項目から別の項目に属性が割り当てられたり、幻覚が生じたりすることです。会議の要約テストでは、これらすべての事例に遭遇しました。
会議に出席した参加者が不正確な Gen AI 要約を確認する (そして理想的には修正する) 責任を負えば、不正確な会議要約のリスクは軽減されます。これらの不正確な内容には、誤って要約された詳細や省略されたアクション項目が含まれる可能性があります。組織によっては、会議に出席していないプロジェクト マネージャーが Gen AI 要約をプロジェクト チームに送信するケースがあります。これは無謀だと考えています。
音声テキスト変換と Gen AI 要約を利用するユースケースは、特に注意が必要であるとフラグ付けされています。これらのシナリオで正確な結果を得るには、次の 2 つの点が正しく実行されている必要があります。
私たちは Gen AI の結果を確認することを強く推奨していますが、近い将来、Gen AI の結果はほとんどの場合ほぼ正確になり、そうであれば、信頼すべきでない場合でも AI 生成の結果をますます信頼するようになると予想しています。生産性と出力の向上を推進する中で、多くのビジネス コンテキストで AI によるエラーが時折発生することは許容されると考えられます。
Gen AI が特定のビジネス プロセスを高速化し、詳細な説明を迅速に作成し、会議のメモを取る必要性を軽減し、要約を活用して長いドキュメント、チャット、電子メール スレッドを読む手間を省く方法に注目が集まっているのは当然のことです。
ただし、Gen AI を使用すると、許容できない結果が得られ、手動でプロセスを完了する必要がある場合があり、最初から手動で進めた場合よりも多くの時間と労力がかかります。
たとえば、Gen AI を使用して特定の画像を作成するときに、これが発生する可能性があります。場合によっては、複数の精巧なプロンプトを使用しても、結果として得られる画像が要件に一致しなかったり、特に人物が含まれている場合に、手、目、その他の要素が奇妙になったりすることがあります。
これは、高度にフォーマットされた出力が必要な場合にも発生する可能性があります。Gen AI はテキストの生成に優れていますが、最終的に必要なレイアウトによっては、Gen AI テキストを最終出力にフォーマットするプロセスに、何らかの形式のテンプレート ドキュメントを使用するよりも時間がかかる場合があります。
そこでの課題は、全体的な生産性の増減を追跡して、Gen AI を使用するのが適切な場合や、それを最も効果的に使用する方法について、ユースケースをより深く理解することです。
UCaaS プラットフォームは、API 経由でサードパーティの LLM を使用する場合があります。この場合、組織の知的財産 (IP) (会議の記録など) が UCaaS ベンダーのクラウド外に送信される可能性があります。
これは必ずしも問題ではありませんが、組織はこの可能性を認識し、UCaaS プロバイダーから、どのようなサードパーティ サービスが使用されているか、および IP を保護するためにどのような契約が締結されているかを理解する必要があります。
ただし、認可された Gen AI ツールを提供しないと、一部のユーザーがパブリックの Web ベースのツールを使用するようになる可能性があります。これらのパブリック ツールの一部を使用すると、さらに大きなリスクが生じる可能性があります。
上で説明したように、Microsoft Copilot、Zoom AI Companion、Cisco AI Assistant for Webex、Google Gemini for Workplace で使用されている LLM はすべて、事前トレーニング済みの LLM モデルを使用しています。これらの LLM はいずれも、モデルのトレーニングに組織のプライベート データを使用することはありません。
現在、従業員がこれらの UCaaS ソリューションの枠組み外で Web 上の LLM を使用する場合、会社のデータや個人データが LLM のトレーニングに使用されないという保証はありません。そのため、多くの企業は、従業員がオープン Web ベースの LLM を使用することを禁止する AI ポリシーを作成しています (ただし、組織が LLM が存在する Web サイトをブラックリストに登録しない限り、このポリシーを実施することは困難です)。
Microsoft Copilot の場合、トレーニング済みの OpenAI LLM パラメータは Microsoft Azure クラウド内で実行されます。会社のすべてのデータは会社の Microsoft Teams テナント内に含まれ、OpenAI LLM に送信されるすべてのデータは Azure クラウド内に含まれます。
Zoom AI Companion の場合、Zoom には 3 つの異なる LLM を使用するオプションがあります。Zoom 独自の LLM (Meta の Llama 2 ベース)、OpenAI の LLM、および Anthropic の LLM です。Zoom 内から OpenAI の LLM または Anthropic の LLM を使用することを選択した場合、データはこれらの企業のクラウドに送信されます。ただし、Zoom は、これらの LLM プロバイダーがモデルのトレーニングにお客様の会社のデータを使用しないようにする契約上の義務があることを保証しています。また、これらの LLM プロバイダーはお客様の会社のデータを一切保持しません。
Cisco AI Assistant for Webex は、Azure クラウドでも OpenAI を使用します。そのため、従業員が AI Assistant に入力するデータは、Cisco Webex クラウドから Azure クラウドに送信されます。これらのクラウドは両方とも非常に安全です。
Google Gemini for Workspace の場合、トレーニング済みの LLM パラメータは Google クラウド内で実行されるため、データは Google のクラウドから出ません。
UCaaS における AI の現状は?ケビンは、多くの個人や組織が「混乱の峡谷」の瀬戸際にいると考えています。これは、期待が能力を上回る誇大宣伝曲線のようなものとは明らかに異なります。
AI、特に生成 AI の機能は、過去 18 か月間で明らかに向上しました。これらの LLM を活用した機能が UCaaS ソリューションに統合されるスピードは目を見張るほどで、時には目が回るようなものでした。
現在の課題は、ユーザーが混乱の谷に陥るのを防ぎ、AI を活用して前進し、自分の役割と組織全体のビジネス価値の向上を実現できるように支援することです。
個人または組織が UCaaS ツール内の新しい AI 機能を誤解したり、誤って適用したり、適切に実装できなかったりすると、機密情報を過剰に共有したり、不正確な情報を流布したり、競合他社に遅れをとったりするリスクがあります。これらの結果はすべて、AI イニシアチブが早期実装の「死」に陥る原因となり、プロジェクトは混乱の峡谷の底で動けなくなり、最後の息を切らすことになります。
Kevin 氏は、組織とベンダーの両方がギャップを埋め、UCaaS AI からビジネス価値を高めるための措置を講じる必要があると示唆しています。
具体的には、組織は次のことを行う必要があります。
これらの推奨事項に従っても、組織だけで混乱の峡谷に橋を架けることは難しいでしょう。この峡谷を越える橋の後半部分は、ベンダーが構築する必要があります。
Kevin は、ベンダーが次のことを行う必要があると提案しています。
ケビン氏は、今後 3 年間で適切に実装および導入されれば、Gen AI がコミュニケーション、コラボレーション、ビジネス プロセスの改善に関連する変革をもたらすテクノロジーになると期待しています。
ブレント氏は、要約とメモ作成が UCaaS エンドユーザーの間で最もよく使用される Gen AI 機能になると考えています。また、会議に出席したり主催したりするすべての人が、会議の要約の影響を受ける可能性があります。
前述のように、会議の要約にアクセスして編集するための AI インターフェースは、UCaaS プロバイダーによって大きく異なります。Omdia の調査データによると、60% を超える組織が社内で 3 つ以上の UCaaS ソリューションを使用しています。したがって、複数の UCaaS Gen AI ツールで会議の要約にアクセスし、それを確認および編集する方法を学習する必要がある場合、これは困難な作業になります。この状況により、他のツールよりも単一の UCaaS ツールを使用する動きが進む可能性があります。
Microsoft と Google は、それぞれ Teams と Workspace 内の Gen AI 機能に料金を請求しています。Brent 氏の意見では、Zoom や Cisco などが AI 生成の会議要約機能をライセンス所有者に追加料金なしで提供していることを考えると、1 ユーザーあたり月額 20 ドルまたは 30 ドルの料金は少し高すぎると思います。彼は、これが UCaaS ソリューションの最も広く採用されるユースケースになるため、Microsoft と Google は会議要約ケース専用の特別な SKU を作成する必要があると考えています。あるいは、会議要約を無料で提供することの経済性が持続可能でない場合、Zoom と Cisco は最終的にこの機能に対して少額の月額料金を請求する必要があるかもしれません。
最後に、ブレント氏は Gen AI ユーザーに、メモや要約を送信する前に確認することを勧めています。AI が生成したメモや要約を自分で確認したところ、異常やエラーが頻繁に見つかりました。個人的に関わった 2 つのケースでは、Gen AI ツールは会議で表現された意味とはまったく逆のことを要約していました。組織内の誰かが会議の要約を確認しておらず、深刻な誤解を招く可能性があると彼は予測しています。
賢明な人へのもう 1 つのアドバイス: 会議の記録を作成してください。ブレントは最近、記録なしで会議の要約のみを使用する会議に参加しましたが、要約が非常に不正確で、後で参照できるように記録があればよかったと思いました。Gen AI アシスタントに頼るよりも、人間が確認できる情報を増やしたほうがよいでしょう。今のところは、記録を作成してください。Gen AI アシスタントは優れていますが、すべての参加者にとって最適な方法で会議を要約できるとは限りません。
この記事のパート 1 はここから、パート 2 はここからご覧いただけます。
3 部構成の記事シリーズの第 2 部では、主要な UCaaS プラットフォームのそれぞれが、会議の要約とテキストの改良という 2 つの主要なユース ケースでどのように機能するかについて説明します。
この 3 部構成のシリーズでは、Microsoft Teams、Zoom、Cisco Webex、Google Meet 内の生成 AI について詳しく説明します。パート 1 では、生成 AI の仕組みと LLM のトレーニング方法について簡単に説明します。
また、Zingtree は CX ソリューションを開始し、EnGenius はビデオ会議ツールをリリースし、Calabrio は新しいビジネス インテリジェンス ツールをリリースしました。
実用的な AI 搭載ツールを考案することは難しいことではありません。難しいのは、企業内で AI に投資するためのビジネスケースを作成することです。

Copyright © 2024 Informa PLC。Informa PLCはイングランドおよびウェールズに登録されており、会社番号は8860726です。登録住所および本社は5 Howick Place, London, SW1P 1WGです。

元記事: https://www.nojitter.com/ai-automation/assessing-risks-and-rewards-using-gen-ai-ucaas-platforms-part-3

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください