OpenAI の ChatGPT、Google の Gemini、Microsoft の Copilot などの消費者向け生成型人工知能 (gen AI) ツールを使用したことがあるなら、興味深く関連性のある応答が返ってきたことがあるでしょう。また、最初に提示したクエリにマッピングするのに苦労する、わかりにくいナンセンスが返ってきたこともあるでしょう。これは、数百億のパラメータを持つ大規模言語モデル (LLM) の問題の 1 つです。ソフトウェアは膨大な量のデータを調べているため、干し草の山から針を探すようなもの、つまりクエリを受け取り、それを適切なコンテキストに配置して、インテリジェントと表現できる情報を返す魔法を一貫して見つけるのは困難です。では、業界固有の gen AI ソリューション、たとえばインフラストラクチャ計画やネットワーク最適化のための通信事業者向け AI ツール、またはカンファレンスのステージで宣伝されるその他の多数のユースケースにとって、これは何を意味するのでしょうか。
基本的に、LLM は、世界の情報の高レベルなビューから始めて、ノイズを削ぎ落とし、ドメイン固有のデータと独自のビジネス固有のデータを重ねる、より小さな言語モデルになる必要があることを意味します。この難しいキュレーションのステップにより、企業はジェネレーション AI を業務全体に導入し、インテリジェント アシスタンスがもたらす生産性と効率性の向上を実現できます。そこからは、より多くのトレーニング、より優れた推論、マシンへの信頼の構築、組織の賛同を得ることが課題となり、その後はレースが始まります。
「ここで覚えておくべき重要なことは 2 つあります」と、AWS のテレコムおよびエッジ クラウド担当 CTO である Ishwar Parulkar 氏は RCR Wireless News のインタビューで説明しました。「まず、1 つのモデルがすべてのケースに適合するわけではありません。次に、大きいモデルが必ずしも優れているわけではありません。パラメータの数が多いほど、作業に適していると考える傾向があります。しかし、それは本当ではありません。」小規模なモデルをチューニングして調整すると (これには、プロンプト エンジニア、検索拡張生成 (RAG) 技術の使用、手動指示の入力などが含まれます)、より良い結果が得られる可能性があると彼は述べました。
Parulkar 氏は、オペレーターが従うべき 3 段階のプロセスを示し、価格/パフォーマンス、モデルの説明可能性、言語サポート、そのサポートの品質も考慮する必要があると付け加えました。「基礎モデルができたら、適切なデータ セットを選択し、ユース ケースに実際に対応するために必要な調整レベルを把握する必要があります。これは 3 段階のアプローチです。ユース ケースをよく理解し、適切な基礎モデルを取得し、それを調整するための適切なデータ セットを取得します。これが、現在製品化できるユース ケースの大部分を形成しているものです。ただし、ドメイン固有の基礎モデルを構築する機会があると考えています。それはもう少し後になります。」
IBM にとって、AI とマルチクラウドは重要な戦略的優先事項です。一方、オペレーターにとって、これは手動プロセスから自動化プロセスへの移行を意味します。IBM のグローバル インダストリーズ担当ゼネラル マネージャーである Stephen Rose 氏は、ユース ケースをカスタマー ケア、IT およびネットワーク自動化、デジタル レイバー、サイバー セキュリティという 4 つの大まかなカテゴリに分けました。
消費者向け AI とエンタープライズ向け AI、特に通信事業者向け AI を比較した場合、大きな問題はデータの出所、データのセキュリティ、偏りの理解、システムの全般的な信頼性にあると彼は言います。「実際にエンタープライズ向け AI を検討する場合、データの出所がわかっていることから始まります。したがって、データの出所が正確にわかっているため、AI をより具体的かつ独自に適用できます。[通信サービス プロバイダー] にとって、そして業界全体にとって、主なチャンスは 2 つあると思います。」と彼は言います。
彼はさらにこう続けた。「1 つは、特権データを共有する方法を見つけることです。つまり、多くのデータがファイアウォールの背後に隠されていたり、組織的な制約内にあったりしていたということです。しかし現在、オープン性という一般的な概念が業界全体に浸透しつつある中で、AI の基盤となるデータ ファブリックは、これまでにない方法でよりアクセスしやすくなっています。したがって、特定の組織内の組織サイロ内だけでなく、特定のエコシステム内にもチャンスがあると思います。したがって、両方の領域で私たちにとって大きなチャンスがあると思いますが、独占的でない特権データと、特権データのオープン性に取り組めば、AI で本当に興味深いことができるようになると思います。」
結局のところ、問題は「どこでそれが実際に実行可能になるのか」ということだ、とローズ氏は語った。
つまり、データ品質が AI を活用した成果の品質を左右することは明らかです。言い換えれば、ゴミを入れればゴミしか出てこないということです。しかし、ここに問題があります。通信事業者は、消費者側で高度にパーソナライズされ、高度にコンテキスト化された膨大なデータを持っています。運用側では、活用できる膨大な量のネットワーク テレメトリが存在しています。問題は、通信事業者が、顧客向けの成果に役立てるためであれ、内部の最適化に役立てるためであれ、これまで保有するデータを十分に活用してこなかったことです。
データ部分と AI 用データ部分について話し合う中で、マッキンゼー アンド カンパニーのシニア パートナーであるトーマス ラジョウ氏は、ネットワークはユーザー エクスペリエンスの代理であり、ネットワークの改善は顧客エクスペリエンスの向上につながるという考えを打ち出しました。「AI が関係するのは、ネットワーク上で起こっていることすべてを理解し、個々のニーズに応じてエクスペリエンスがあるかどうかを理解できるようになったことです。まず、このデータを持っているだけで、通信会社は製品を改善できます。そしてもちろん、製品を改善することは、顧客全体のエクスペリエンスを改善し、競争の激しい環境で差別化の源泉をもたらす第一歩です。」
オペレータのデータのサイロ化については、「通信業界では、不良なデータによって AI が不良または不十分になり、データ生成への重点が低下し、不良または不十分なデータにつながる、という悪循環に悩まされてきました。しかし、私たちはこの状況から抜け出そうとしています。」
ドメイン固有の LLM は将来的であるという Parulkar 氏のコメントに戻りますが、このコメントは昨年 11 月に行われたインタビューでなされたものです。今年 2 月の Mobile World Congress に話を戻すと、Deutsche Telekom、e& Group、Singtel、SK Telecom、SoftBank が Global Telco AI Alliance を発表しました。各社は、当初はデジタル アシスタントとチャットボットに重点を置き、通信事業者固有の LLM を開発する合弁事業を開始する予定です。また、Parulkar 氏の言語サポートに関する指摘については、アラビア語、英語、ドイツ語、韓国語、日本語への最適化が計画されており、今後さらに増える予定です。
「当社は顧客に可能な限り最高のサービスを体験してもらいたいと考えています」とドイツテレコムの取締役クラウディア・ネマット氏は声明で述べた。「AIはそれを実現するのに役立っています。」
通信事業者向けの通信AI以外にも、プライベートネットワーク、エッジコンピューティング、その他のソリューションを販売することで市場シェアを拡大しようと、通信事業者がさまざまな企業に深く入り込んでいると従来考えられていたことに対応するサブテーマが展開されています。企業への参入を先導しているように見えるNokiaは、Mobile World Congressに先立ち、産業用アプリケーション向けの5G/エッジバンドルであるMXIEシステム用の産業用AIチャットボットを試用しました。この製品は、同社によると「最初のOT準拠の世代AIソリューション」とノキアが宣伝したMX Workmate LLMを活用しています。この流れに沿って、今週ハノーバーメッセ産業見本市で発表する産業大手は、産業向けの世代AIに全力を注いでいるようです。
MX Workmate について議論する中で、ノキアのエンタープライズ部門でソリューション マーケティングを担当するステファン ドーブル氏は、産業の実現に焦点を当てながらも、通信 AI や AI 全般にも関連する、ジェネレーション AI の導入に関する見解を共有しました。「これを手にしたとき、私たちはこれをどうしたらよいかと考えました」とドーブル氏は語ります。まだ時期尚早でしょうか?…[しかし] 私たちは今、個々の部分の総和よりも優れたソリューションを手に入れました。また、私たちは常に早期にリリースします。2011 年当時、私たちはプライベート ワイヤレスで早期にリリースしました。人々は「何をしているんだ?」と聞いていましたが、私たちは正しかったのです。今回も同じで、時間がかかります。しかし、始めなければ何も起こりません。」
RCR Wireless News は 1982 年以来、モバイルおよびワイヤレス業界の専門家、意思決定者、政策立案者、アナリスト、投資家にワイヤレスおよびモバイル業界のニュース、洞察、分析を提供してきました。
元記事: https://translate.google.com/translate?sl=auto&tl=ja&hl=ja&u=https://www.rcrwireless.com/20240426/ai-ml/how-to-build-llms-for-telco-ai-applications