ジャカルタ – 英国当局は、人工知能（AI）ベースのチャットボットをビジネスに取り入れることについて組織に警告している。チャットボットは悪意のあるタスクを実行するように騙される可能性があることが研究でますます明らかになってきていると当局は述べている。
英国国立サイバーセキュリティセンター（NCSC）は、8月30日水曜日に公開予定の2つのブログ記事の中で、人間のような対話を生成できるアルゴリズム、いわゆる言語モデル専攻（LLM）に関連する潜在的なセキュリティ問題を専門家はまだ完全には理解していないと述べている。
人工知能を搭載したこれらのツールは現在、チャットボットとして使用され始めており、インターネット検索だけでなく、カスタマーサービス業務や営業電話も置き換えられるのではないかと考える人もいます。
NCSC は、特にモデルが組織のビジネス プロセスの他の要素にリンクされている場合、これはリスクを伴う可能性があると述べています。学者や研究者は、不正なコマンドを与えたり、チャットボットをだまして内部の安全策を回避させたりすることで、チャットボットを改ざんする方法を何度も発見しています。
たとえば、銀行が使用する人工知能搭載のチャットボットは、ハッカーが質問を正しく設計すると、だまされて不正な取引が行われる可能性があります。
NCSC はブログ投稿の 1 つで、実験的なソフトウェア リリースについて言及し、「LLM を使用してサービスを構築する組織は、まだベータ版の製品やコード ライブラリを使用する場合と同様に注意する必要がある」と述べた。
「彼らはおそらく、この製品が顧客に代わって取引を行うことを許可しないだろうし、彼らを全面的に信頼すべきではない。LLMについても同様の注意を払うべきだ」とNCSCはロイター通信に語った。
世界中の当局は、OpenAIのChatGPTなど、企業が販売や顧客サービスなどさまざまなサービスに統合しているLLMの使用増加に頭を悩ませている。人工知能のセキュリティへの影響もまだ解明されていないが、米国とカナダの当局はハッカーがこの技術を採用しているのを目撃したと述べている。
英語、中国語、日本語、アラビア語、フランス語の各バージョンは AI によって自動的に生成されます。そのため、翻訳に不正確な点がある可能性がありますので、常にインドネシア語をメイン言語としてご覧ください。(システムは DigitalSiber.id によってサポートされています)
タグ: チャットボット 人工知能 英語 人工知能
© 2024 VOI – ニュースに革命を起こす時が来た
元記事: https://voi.id/kr/teknologi/305853