人工知能によって生成されたコンテンツがますます溢れかえる世界で、テクノロジーの巨大企業は現在、何が本物で何が偽物かを区別する最先端のツールを開発するために、大きな賭けで戦っている。
OpenAI が自社の DALL-E 3 テキスト画像生成器で作成した画像を識別する新しいシステムを立ち上げたことから、Amazon が AI を導入して不正なレビューを見つけ出すことまで、企業は自社のプラットフォームを悪用しようとする悪質な行為者の一歩先を行くよう努めています。AI がさまざまな業界で増加し続ける中、堅牢な偽造品検出ツールの開発が優先事項となりつつあり、e コマースからジャーナリズム、政治まで、幅広い分野に広範囲な影響を及ぼしています。
「小売業者はAIを活用して不正行為とより効果的に闘い、悪質な行為者をその場で対処し、さらには彼らのやり方で打ち負かすことができる」とアクセンチュアの不正行為対策担当役員ソフィア・カールトン氏はPYMNTSに語った。
PYMNTS Intelligence の「オンライン取引における不正管理」によると、昨年、海外で販売している米国の電子商取引業者の 82% がサイバー侵害に直面し、その約半数が顧客と収益を失い、68% がセキュリティと顧客満足度のバランスを取るのに苦労していることが分かりました。
詐欺攻撃が成功すると、小売業者は評判に傷がつく、とアイデンティティソリューション企業テレサインのCEO、クリストフ・ヴァン・デ・ワイアー氏はPYMNTSに語った。例えば、テレサインの年次信頼指数によると、調査対象となった詐欺被害者のほぼ半数が被害を受けたブランドに責任があるとし、64%がブランドに対するイメージにマイナスの影響があったと報告しており、昨年から36%増加している。
「被害者が体験を共有すると、この否定的な認識は急速に広がる可能性があります」と彼は言います。「37% が友人や家族にそのブランドを避けるようアドバイスし、34% が詐欺事件についてソーシャル メディアに投稿し、世界中の幅広い視聴者に届く可能性があります。このデータは、顧客の ID と収益源の両方を保護するために AI 対応ソリューションが必要であることを強調しています。AI 詐欺防止ソリューションを利用することで、組織は詐欺行為をリアルタイムで検出して対応できるため、金銭的損失を減らし、競争が激化する小売環境において顧客の信頼を維持できます。」
企業は詐欺問題の拡大に注目し、その防止に取り組んでいる。OpenAI は水曜日 (5 月 7 日)、DALL-E 3 テキスト画像生成器で生成されたコンテンツを識別するツールを導入すると発表した。さらに同社は、画像検出分類器の初期テスト グループの申し込みを開始している。このツールは、画像が DALL-E 3 で作成された可能性を評価するように設計されている。
「私たちの目標は、分類器の有効性を評価し、実際の応用を分析し、そのような使用に関する関連する考慮事項を明らかにし、AIが生成したコンテンツの特徴を調査する独立した研究を可能にすることです」とOpenAIは声明で述べた。
通常、機械学習は疑わしい行動を見つけても、すぐに行動を起こすわけではない、とセキュリティ会社 eSentire のシニア脅威研究者キーガン・ケプリンガー氏は PYMNTS に語った。その代わりに、機械学習は特殊なモデルを使用して、その異常性や既知の詐欺パターンに一致するかどうかに基づいて行動を採点する。この採点により、人間のアナリストはリスクのレベルに基づいてどのケースを最初に調査するかを決定することができる。機械学習アルゴリズムは、時間、場所、金額、関係者など、各取引のさまざまな側面を分析する。これらの関係者は、詐欺行為を示唆する取引履歴を持っている可能性がある。
「よくある例としては、旅行中に取引しようとした後にクレジットカード会社が購入をブロックしたり、電話をかけてきたりすることがあります」と彼は言う。「旅行前の支出習慣は取引履歴のベースラインを確立しますが、旅行に関連する場所の突然の変化や、おそらくは取引額の高額化は、たとえばハッカーが電子商取引サイトからクレジットカードをスキミングし、犯罪者に販売して使用される場合など、詐欺の兆候となる可能性があります。」
OpenAI によると、このツールは DALL-E 3 で作成された画像の約 98% を正確に検出し、人間が作成した画像のうち 0.5% 未満を AI 生成画像として誤認したという。同社はさらに、圧縮、トリミング、彩度の変更など、一般的な画像の変更はツールの有効性にほとんど影響を及ぼさないと指摘した。しかし、他の変更はパフォーマンスを損なう可能性があることを認めた。この分類器は、DALL-E 3 で作成された画像と他の AI モデルで作成された画像を区別する有効性も低下した。
カールトン氏は、生成型 AI は新しいプログラミング コードの生成、部分的に書かれたコードの完成、プログラミング言語間のコード変換を支援できると説明した。これらのアプリケーションは、「より効果的な不正モデル、新しいスキームのより迅速なモデル開発、またはより効率的な不正モデルの調整と管理」につながる可能性があると彼女は述べた。
AI は将来、小売業者の不正防止と検出に革命を起こすだろうとカールトン氏は語った。AI の機能を活用することで、小売業者は不正管理を改善し、損失とコストを削減し、顧客をより適切に保護することができる。
「AIは小売業者の不正防止と検出に革命を起こす可能性がある」とカールトン氏は述べ、AIによって小売業者は「これまで以上に効率的かつ効果的に」不正に対処できるようになると付け加えた。
アマゾンは、不正レビュー対策としてAIの活用も強化している。同社は、2022年にAIシステムが世界中で2億件以上の偽レビューと疑われるレビューをブロックしたと報告した。これは、購入の決定にこうした評価を頼りにする消費者や、本物の顧客フィードバックに依存する企業にとって不可欠な、レビューシステムの完全性を維持するためのアマゾンの戦略の一環である。
「偽のレビューは、公平でも本物でもなく、その商品やサービスに関係のない情報を提供することで、意図的に顧客を誤解させます」と、アマゾンの不正使用防止チームのシニアデータサイエンスマネージャー、ジョシュ・ミーク氏は4月のブログ投稿で述べた。「何百万もの顧客が購入の決定にアマゾンのレビューの真正性を頼りにしているだけでなく、何百万ものブランドや企業が、偽のレビューを正確に識別し、顧客に届かないようにするために私たちに頼っています。私たちは、レビューが実際の顧客の意見を反映し、正しいことを私たちに頼っている誠実な販売者を保護するために、責任を持ってポリシーを監視し、施行するよう懸命に取り組んでいます。」
コンフルエントの技術戦略責任者アンドリュー・セラーズ氏はPYMNTSに対し、「AIは、取引時間、金額、場所、購入/請求履歴など、エンドユーザーの行動の多くの特徴を組み込んだ、詐欺リスクを評価するための非常に詳細なモデルを構築できます」と語った。これらのモデルは、専門家が定義したルールや、機械が取引データから学習したパターンに基づくことができる。
「この種の分析を大規模に行うには、自動化が不可欠です」とセラーズ氏は付け加えた。
小売業における詐欺防止について、セラーズ氏は「AI モデルは、販売時点で取引が発生したときに、詐欺リスクをリアルタイムで評価できます。債権者がデータ ストリーミングを使用している場合、この詐欺リスクの特徴付けは、購入承認プロセスに沿って行われます。このリアルタイム評価により、アカウントの状態が良好に見えても、非常に疑わしい取引は拒否されます」と述べています。
セラーズ氏は将来について、「AIアルゴリズムは評価の精度をさらに高め、消費者の個々の状況を考慮する際の精度をさらに高めていくだろう」と予測している。
PYMNTS AI に関するすべての情報を入手するには、毎日の AI ニュースレターを購読してください。
当社は常に革新者や破壊者と提携する機会を探しています。
