SKテレコムのAI技術コラボレーション責任者であるエリック・デイビス氏は、4月30日に開催された記者会見でTelco LLMモデルを紹介した。
SKテレコムは、6月までに初の通信事業者向け大規模言語モデル（LLM）を稼働させる準備が整うと確信しており、通信分野向けの生成AI（GenAI）アプリケーションの開発に使用できる「インテリジェンスプラットフォーム」を開発しました。
この韓国の通信事業者は、昨年の夏以来、特定の目的に合わせて微調整され、通信事業者内のさまざまなチームが使用できる生成AIシステムの開発に「マルチLLM戦略」と呼んでいるものに取り組んできました。通信事業者の最高AIグローバル責任者であるSuk Geun Chung氏は、バルセロナで開催されたモバイル・ワールド・コングレス（MWC）2024でTelecomTVのインタビューに応じ、開発やその他のAI問題について語りました。
2022年からAI企業としての地位を確立している同社は、用語、料金プランや契約、補助金や特典、AI倫理など、韓国の通信業界に関連するデータを使ってLLMをトレーニングしてきた。このプロセスでは、AXと呼ばれる独自のLLMのほか、OpenAIのGPT-4プラットフォーム、SKテレコムが出資しているAnthropicのClaude LLMも使用してきた。
SKTは、LLMを訓練するために、通信データを収集し、非構造化データと構造化データを選択および精製し、「人間のフィードバックに基づく強化学習（RLHF）」サイクルにかけ、最終的なベンチマークプロセスを通じて評価していると、この発表（韓国語）で述べています。
SKテレコムのAI技術コラボレーション責任者であるエリック・デイビス氏（写真上）は、通信事業者のAIニーズは汎用LLMでは完全には満たせないため、「通信データとドメインノウハウに合わせた微調整とモデル評価」が必要だと指摘した。「SKT独自のマルチLLM戦略は、（ベンチマークを通じて）さまざまな通信事業者LLMを作成し、状況に応じて選択して使用できるようにすることです」と同氏は説明した。
同社は、顧客対応業務の大幅な効率化が達成できると考えている。現在、顧客サービスチームのメンバー（カウンセラー）が1件の相談電話に対応するのに約3分かかり、相談後の業務処理には30秒以上かかる。「しかし、Telco LLMの導入により、カウンセラーが顧客と電話で話している間に、LLMがカウンセラーに解決策を提供します。相談処理にかかる時間を大幅に短縮できると期待しています」とSKTは指摘した。
SKT は、Telco LLM を使用することでネットワーク運用の効率化も図れると考えています。「インフラストラクチャ オペレータがネットワークの監視中に問題に遭遇した場合、リアルタイムで Telco LLM に質問を入力し、それに応じた解決策を受け取ることができます」とオペレータは述べています。
さらに、より幅広い応用分野もある。SKTのAIプラットフォームを運営するチョン・ミンヨン氏は、「Telco LLMは、顧客センターやインフラだけでなく、マーケティング/流通ネットワークなどの顧客接点、法務や人事などの社内業務など、通信会社の業務のさまざまな領域で作業効率を向上させるだろう」と指摘した。
SKT はまた、通信会社や「同様のビジネス特性」を持つ他の種類の企業が「生成 AI アプリケーションを効率的に構築および開発」できるようにする「インテリジェンス プラットフォーム」も発表しました。この通信会社は、顧客とやり取りする A. GenAI アプリケーションの機能強化にこのプラットフォームをすでに使用しています。
同社によれば、このプラットフォームは、マルチLLMサポート、マルチモーダル機能（モデルが1つの入力モードまたは出力モードに限定されない）、マルチLLMからマルチモーダル、オーケストレーション、GenAIモデルが外部ソースから情報を取得できるようにする検索拡張生成（RAG）まで、幅広い機能を提供する「エンタープライズAI開発および運用パッケージ」である。
– Ray Le Maistre 氏、TelecomTV 編集ディレクター
サインアップすると、TelecomTV のトップニュースやビデオ、さらに購読者限定のコンテンツが直接受信トレイに届きます。
TelecomTV は Decisive Media のチームによって制作されています。
