このサイトでは、Cookie を使用してコンピュータに情報を保存しています。Cookie には、サイトの動作に不可欠なものもあれば、ユーザー エクスペリエンスの向上に役立つものもあります。このサイトを使用することで、これらの Cookie の配置に同意したことになります。詳細については、プライバシー ポリシーをお読みください。
人工知能 (AI) は、他のテクノロジーと同様に、悪用される可能性があります。詐欺を企む悪意のある人物は、AI を使用して、よりリアルな詐欺をより迅速に作成できます。
脅威の状況はどのように変化しましたか?
役員のなりすまし詐欺を考えてみましょう。最初の攻撃では、たとえば、従業員が CEO から緊急取引のために即時に資金を振り込むよう要求する緊急メールを受け取りました。従業員は、犯罪者が管理する口座に資金を振り込むように指示されました。これに対応して、企業はポリシーを変更し、従業員に詐欺の危険信号を認識できるようにトレーニングを行いました。
AI を使えば、犯罪者は CEO からのディープフェイクのボイスメールやビデオ メッセージ、さらには CEO の音声やビデオのライブ ディープフェイクを生成できます。これは次のレベルの脅威ですが、新しいタイプの詐欺は、CPA 事務所やその他の潜在的なターゲットにとって最大のリスクではないかもしれません。AI が犯罪者が古い詐欺スキームを自動化するのを助け、攻撃の速度、効率、持続性を高める可能性があるという懸念があります。実際、それはすでに起こっています。FBI は、インターネット犯罪苦情センターを通じて、少なくとも 2020 年以来、AI による詐欺のリスクについて一般市民に警告しています。
AIがどのように詐欺計画に利用されるか
AI は、次のような方法で詐欺行為の実行を支援するために使用できます。
説得力のある虚偽または誤解を招く文書やデータを作成する
従来、詐欺師は詐欺計画を裏付けるために、偽の文書、レポート、データ、偽の電子メールを作成してきました。これらの偽造された文書やデータには、数学的な間違い、不鮮明なロゴ、意味不明な請求書番号、フォーマットの違いなど、受信者に気付かせる可能性のある欠陥が含まれていることがよくあります。
機知に富んだ詐欺師は、AI を使って、詐欺計画をサポートする請求書、契約書、レポート、スプレッドシート、銀行取引明細書などの、本物そっくりの文書やデータを作成できます。AI システムが評価できる正当な文書の例が多ければ多いほど、AI が生成できる偽造文書の品質は高くなります。AI の文書生成能力は、詐欺目的か合法目的かを問わず、ますます向上しており、詐欺師の武器庫にある危険なツールとなっています。
従来の攻撃の高度化
AI を使用すると、公開されている大量の情報を分析して、攻撃をより標的型かつ個人的なものにすることができます。
たとえば、従来のフィッシング攻撃を考えてみましょう。今日では、「ナイジェリアの王子」に資金や個人情報を送ることはまれかもしれません。しかし、困窮した家族から資金を求めているように見せかけ、名前、住所、電話番号、その他の個人情報が記載されたメッセージはどうでしょうか。ソーシャル メディアやその他の情報源で公開されている情報が十分であれば、写真や動画、さらには家族を真似た声まで添えて攻撃を強化することができます。
計画のスピードと持続性の向上
AI は大量のデータを処理し、驚くほど効率的にタスクを実行できるため、企業や一般の人々にとって大きな問題となる可能性があります。詐欺師は、フィッシング詐欺、スピアフィッシング、ロボコール、ランサムウェアが数のゲームであることを理解しています。試行回数が多ければ多いほど、成功する可能性が高くなります。
これまで、こうしたタイプの計画には、人間の介入、または少なくとも何時間ものプログラミングと計画が必要でした。AI は、驚くべきスピードでそれを実行できます。さらに、AI は退屈したり気を散らされたりすることがなく、食事や睡眠のために休憩する必要もありません。AI (少なくとも現状では) には良心がないため、落胆したり罪悪感を感じたりすることなく攻撃を実行できます。
サイバー犯罪の急増は、主に 2 つの要因によるものです。まず、サイバー犯罪は利益をもたらします。2025 年までに、サイバー犯罪による被害額は世界中で 10 兆ドルを超えると予測されています。次に、サイバー犯罪は他の犯罪に比べてリスクが低いことです。サイバー犯罪を人間の犯人にまでさかのぼって追跡することは、窃盗行為を行っている現場にいる強盗犯を捕まえるよりもはるかに困難です。
AI は、人間の犯人につながる痕跡をほとんど残さない自動化スキームで賭け金を上げています。AI は、検出を回避するように設計された公開プログラムを使用できます。また、検出対策から学習し、成功した検出技術を回避するために自分自身を変更して、自分で「考える」ように設計することもできます。
生成的敵対ネットワークの使用
最近の展開として、犯罪者は 2 つのニューラル ネットワークを使用する敵対的生成ネットワーク (GAN) に注目しています。つまり、基本的には連携して動作する 2 つの AI システムです。犯罪者は、1 つのネットワークを偽情報を生成するようにトレーニングし、もう 1 つのネットワークを偽情報を検出するように設計します。これらのネットワークは相互にトレーニングするために使用され、検出を回避するためのより優れた手段を継続的に作成します。
こうしたシナリオはディストピアのように聞こえるかもしれないが、こうした手法はすでに効果的に利用されている。裁判記録によると、2020年1月、アラブ首長国連邦の会社の取締役の声を模倣したAIが使用され、3,500万ドルが盗まれたとされている。それ以前にも、英国では、詐欺師が説得力のあるディープフェイクを使用してエネルギー会社のCEOになりすまし、24万3,000ドルを不正送金したとされている。
これらの攻撃には最新の技術は使われていません。AI技術が進歩するにつれ、この種の攻撃の巧妙さは増すばかりです。たとえば、過去数か月間には、コンピューターで操作された有名人の画像や音声がソーシャルメディアに登場し、偽のサービスを販売していました。
AIを活用して不正行為を検出し防止する方法
AI は詐欺師を支援する可能性がありますが、AI テクノロジーの進歩は、会計士や財務専門家など、詐欺の防止や検出を専門とする人々にもチャンスをもたらします。
AI を活用して不正行為の検出と防止を支援する方法には、次のようなものがあります。
データ分析は、大規模なデータセット内の異常や不正の兆候を検出するために長い間使用されてきました。AI は、膨大なデータセットを迅速に分析することで、パターン認識を高速化し、改善する可能性があります。AI と機械学習により、企業や財務部門は異常を効率的かつ効果的に検出できるようになります。
AI には自己学習機能があるため、誤検知と判断された異常については、システムが同様の属性を持つ異常をあまり重視しないように学習できます。逆に、有効と判断された異常については、システムが同様の属性を持つ取引やデータをより重視するように学習できます。銀行や金融機関は、機械学習機能を使用して異常な取引を検出し、潜在的な追加の不正請求を迅速に回避することで、この分野で先頭に立っています。
AI は、システムとプロセスのセキュリティを評価し、内部統制の潜在的なギャップを特定するために使用できます。これは、1 秒未満で盲点を特定できる単一要素分析または多要素スコアリング モデルを通じて実行できます。
AI は、悪意のあるコード、場合によっては悪意のある AI コードなどの脅威を検出して排除するために使用できます。残念ながら、詐欺の分野ではよくあることですが、詐欺を検出する能力は詐欺師の創造性に遅れをとる傾向があり、まだ作成されていない詐欺を検出することは困難です。それでも、利用可能な AI ツールを使用して、悪意のある行為者を阻止しようとする必要があります。
詐欺師が AI を使用して詐欺を自動化するのと同じ方法を、AI 駆動型ソフトウェアを実装することで詐欺検出にも利用できます。これまで、リアルタイムのデータ分析を実行することは、事実上、また経済的にも不可能でした。AI 機能の出現により、これらの対策を自動化し、監視や人間の介入をほとんどまたはまったく必要とせずに、数秒で実行できるようになりました。
会計士は、AI 技術を使用したますます高度化するスキームに適応するという課題に直面するでしょう。しかし、AI 技術を単に無視したり避けたりするのは無責任です。むしろ、新しい技術を取り入れる会計士は、取り入れない競争相手よりも有利になるでしょう。
AIの誤用リスクを軽減する方法
AI のリスクに対処する安全策を確立することが、悪用に対する最も重要な対策です。
AI 環境は複雑かつ進化を続ける分野であり、会計専門家、特に法廷会計士はこれを意識する必要があります。会計担当者は、進化する環境を認識し、このテクノロジーを倫理的に活用する義務があります。
専門的なAIモデルをトレーニングする方法
現在、不正な取引、詐欺、フィッシングの試みの特定など、カスタマイズされた用途向けの特別な AI モデル ソリューションを作成するための主な方法が 2 つあります。
最も一般的な方法は、一般に埋め込み法と呼ばれる検索拡張生成 (RAG) です。この方法では、まず AI モデルに追加データを提供し (データをコンピューターが理解できるベクトルに変換した後)、次にモデルに提供された追加データに基づいて検索と応答を要求します。この手法では、追加データがモデル自体の外部に存在するため、既存の AI モデルを再トレーニングするために高価なハードウェアは必要ありません。
この方法は、既存の AI モデルがユーザーから提供された専門的なデータや知識を学習するのに非常に効果的です。たとえば、会計士は RAG を介して不正のパターンや特徴を含む追加のデータセットをオープンソース AI モデルに入力し、そのモデルを不正取引の特定に精力的に取り組む不正対策モデルに変えることができます。
ファインチューニングは、追加データを使用して既存のモデルを再トレーニングするもう 1 つの方法です。テクノロジーに精通した企業や会計事務所は、特殊なデータを使用して既存の商用 AI モデルを再トレーニングし、(1) AI モデル自体に特殊なドメイン知識を追加し、(2) モデルの応答を絞り込んでモデルの応答をより簡潔にすることで、より正確な結果を生成できる新しいモデルを作成できます。ファインチューニングには、開発者の一定の AI 開発スキルと、グラフィックス プロセッシング ユニット (GPU) などのハードウェアへのかなりの資本投資が必要です。
Ray Sang 氏は CPA/CITP、CISA の資格を持ち、Expedia Group や Google Cloud など、いくつかの企業で技術および財務管理の役職を務めてきました。また、シアトルの財務自動化会社 Chipmunk Robotics の創設者でもあり、Elastic NV の取締役も務めています。Clay Kniepmann 氏は CPA/CFF/ABV、CFE、JD の資格を持ち、セントルイスに拠点を置く Anders CPAs + Advisors のフォレンジック、評価、訴訟サービス部門のプリンシパルを務めています。この記事についてコメントしたり、別の記事のアイデアを提案したりするには、Jeff Drew (Jeff.Drew@aicpa-cima.com) までご連絡ください。
データ分析における批判的思考
データ分析スキルにおける批判的思考力を向上させて、問題を簡単に診断し、データに基づいたより適切な意思決定を行い、効果的な解決策を特定します。
AIの世界における倫理: 会計士によるリスク管理ガイド
このウェブキャストでは、ビジネスにおける AI の現在の使用法について説明し、9 つのリスク領域を確認し、これらのリスクに効果的に対処するための実用的な提案を提供します。
リスクを管理し、情報に基づいた意思決定を行うための貴重な分析ツールを学びます。
詳細情報や購入については、aicpa-cima.com/cpe-learning にアクセスするか、888-777-7077 までお電話ください。
Journal of Accountancy は完全にデジタル化されました。
採用。オンボーディング。給与管理。コンプライアンス。福利厚生管理。これらは、人材獲得競争で競争力を維持するために会計事務所が提供しなければならない人事機能のほんの一部です。
CPA は、申告書作成製品のパフォーマンスを評価します。
このクイック ガイドでは、Apple のニュース アプリで Journal of Accountancy をお気に入りのニュース ソースとして追加する手順を説明します。
信頼できる。機知に富んでいる。尊敬されている。
元記事: https://www.journalofaccountancy.com/issues/2024/may/ai-and-fraud-what-cpas-should-know.html