イノベーションと悪用の間には微妙な境界線があります。大規模言語モデル (LLM) によって、サイバー犯罪者が欺瞞技術をさらに巧みに習得する様子を見てみましょう。
OpenAI の ChatGPT や Google DeepMind の Gemini などの生成型人工知能 (AI) ツールでできることは驚異的です。テキストの翻訳、アイデアのブレインストーミング、さらにはコードの記述やデバッグがかつてないほど簡単になりました。しかし、一般の人々が AI を使用することがはるかに簡単になったため、サイバー犯罪者もこの種のテクノロジーを悪用していることを考えたことがありますか?
問題は、サイバー犯罪者が ChatGPT を気に入っているということです。ダークウェブには、XXXGPT、FraudGPT、WormGPT (メディアの注目が大きかったため開発者によってシャットダウンされました) など、ハッカー向けの大規模言語モデル (LLM) のクローンさえあります。
Check Point Research によると、プレミアム ChatGPT アカウントの巨大なアンダーグラウンド マーケットが存在するそうです。「サイバー犯罪者は ChatGPT クローンを使用しますが、最もよく使用される LLM は ChatGPT です。これは最も簡単だからです。API を備えているからです」と Check Point Research の脅威インテリジェンス グループ マネージャー、Sergey Shykevich 氏は言います。サイバー犯罪者がプレミアム ChatGPT アカウントを狙う理由の 1 つは、北朝鮮、中国、イラン、ロシアなどの国ではこのサービスが利用できないことです。「サイバー犯罪者はさまざまな制限を回避しなければなりませんが、API またはプレミアム アカウントを使用すると、無料のユーザー インターフェイスよりも制限がはるかに少なくなります。」
サイバー犯罪者がダークウェブで AI をどのように利用しているかを調査したカスペルスキーの調査では、ハッカーが言語モデルを使用して悪意のある製品を開発するだけでなく、情報を入手していることが明らかになりました。ソーシャル エンジニアリング詐欺の一種である AI フィッシングの助けを借りて、検出が著しく困難になっています。かつては明らかなスペルミスや文法の誤りで満ちていた電子メールも、今では正当な通信と区別がつかなくなっています。
「現在、すべてのスパム フィッシング サービスは ChatGPT を使用してメールをランダム化しています」と Shykevich 氏は付け加えます。「多くのスパム対策エンジンはこのデータに基づいています。類似したメールが多数見つかった場合、自動的に悪意のあるメールとして分類されますが、AI を使用すれば、自動化ツールによってランダム化された数十万件のフィッシング メールで構成されるキャンペーンを実行できます。」
カスペルスキーの主任データサイエンティストであるウラジスラフ・トゥシカノフ氏は、生成AIは他の種類のテクノロジーと同様に、二重の用途を持つツールであると説明しています。「これらのツールを使用すると、多くのクールなことを行うことができます…しかし、サイバー犯罪者にとって興味深いアプリケーションもあります。最も明白な使用法は詐欺です。本物らしい偽の声を作成して人々を誘惑し、送金させます」とトゥシカノフ氏は言います。「当社のデジタルフットプリントインテリジェンスがダークウェブで見つけたのは、「ChatGPTは私の親友です」や「仕事をするときはいつもChatGPTに相談します。とても便利です」という投稿です。これは、ハッカーフォーラムで見たサイバー犯罪者の実際の投稿です。」
グレッグ・ファン・デル・ガスト氏は、元ハッカー、FBI 捜査官、そしてセコイア・コンサルティングの MD です。サイバーセキュリティに対する彼の考え方は、少し異なります。「サイバー犯罪者が AI を使って悪用しようとしているものに対して脆弱でなければ、優れたビルド プロセスとアーキテクチャを備えていれば、彼らは脅威にはなりません」と彼は言います。
ファン・デル・ガスト氏にとって、サイバーセキュリティ業界全体の主な問題の一つは、リスク管理に重点が置かれていることだ。
「前庭に穀物の袋を置いておけば、3日後に1万匹のネズミが現れても不思議ではありません。解決策はネズミ捕りを1万個買うことではなく、穀物をより良く保管し、ネズミ捕りを数個購入することです」と彼は言う。
「穀物を同じ場所に保管し、ネズミ捕りを仕掛け続けるのは馬鹿げています。これほど多くの脅威が存在する唯一の理由は、脆弱性を抱えながらも対処していない組織があまりにも多いからです。代わりに、組織はリスク管理だけを行っています。」
ハッカーの視点から AI を見ると、ファン デル ガスト氏は AI の最も優れた点は考える必要がないことだと言います。「AI により [ハッカーは] はるかに効率的に作業できます。つまり、偵察や侵入を試みているときに、AI がワークフローを高速化します」と同氏は説明します。「AI を使用すると、サイバー犯罪者は検出アルゴリズムを回避する方法で攻撃のペースを調整できます。」
このため、ファン・デル・ガスト氏は、遅れを取り戻そうとするだけでは根本的な問題を解決できず、AI を使ってそもそも問題がどこから来ているのかを賢く考えることができると考えています。
「誰も根本的な原因に目を向けていません。深刻さを見るのをやめて、そもそもなぜ脆弱性が存在するのかという理由に目を向けてください」と彼は勧めています。
「セキュリティの問題を品質の問題として捉えるようにしてください。セキュリティの脆弱性とは、コードや構成、システムの構築方法における欠陥のことです。脆弱性がなければ、脅威は脅威にはなりません。」
生成型 AI を取り巻く誇大宣伝を考えると、サイバー犯罪者がこの活動に加わろうとするのも不思議ではありません。巧妙なフィッシング メールやメッセージに加えて、詐欺師は LLM に興味がある人を広告で誘い込み、実際には存在しない拡張バージョンをダウンロードさせています。また、OpenAI の無料機能を有料で模倣した偽の ChatGPT アプリも数多くあります。フリースウェアと呼ばれることが多いこれらのアプリは、ユーザーを広告で圧倒し、ユーザーが屈服してサブスクリプション料金を支払うまで追い込みます。
「私たちは今、善人と悪人の争いの中にいる」とシャイケビッチ氏は言う。「どちらが勝つかはまだ分からない。悪人が AI を非常に高度なマルウェアや何かおかしなことに使うことはまだない。防御側の方が少しはましだ。我々が有利であり、平和が続くことを願っている」
アフリカ大陸全土の専門家による最新のビジネスニュース、洞察、最新情報など、Forbes Africa のベストをあなたの受信箱に直接お届けします。
このニュースレターと、弊社の製品およびサービスに関する詳細情報をあなたの受信箱に配信します。ニュースレターにサインアップすることにより、お客様は弊社の利用規約およびプライバシー ポリシーに同意したものとみなされます。
