- AppleはGenAI（Generative AI）技術を採用し、数億人の信頼を集めるが、サイバー犯罪者はAIデータ毒入攻撃を利用して技術の出力を歪ませる可能性がある。
- データ毒入は、悪意のある者がアプリケーションの脆弱性を利用して偽のデータを挿入、変更、または削除する攻撃の一種である。
- GenAIシステムの出力は、それらがトレーニングされたデータに完全に依存しているため、これらの脆弱性は特定の個人や歴史的イベントについて不正確またはバイアスのある情報を拡散するために悪用される可能性がある。
- サイバー犯罪者がAIデータ毒入を行う方法には、EmbedAIなどのツールにおける脆弱性を利用することが挙げられる。
- AIデータ毒入は、企業がビジネス目的でGenAI技術を採用する際に特に問題となる可能性があり、悪意ある行為者が混乱を引き起こす可能性がある。
AIデータ毒入によるリスクは増大しており、技術の出力を疑うことや情報の二重チェックを行うことが重要である。
元記事: https://ia.acs.org.au/article/2024/ai-data-poisoning-explained.html