- ReversingLabsが提唱する「nullifAI」は、MLモデルを標的とする回避手法で、AIコーディングツールプラットフォームによる急速に拡大するサイバーセキュリティリスクを示している。
- ReversingLabsは、Hugging Faceコミュニティで新たなMLマルウェア攻撃技術を明らかにし、関連する研究記事「Hugging Faceプラットフォームで発見された悪意のあるMLモデル」および新しいホワイトペーパー「AIはサプライチェーン」を公開した。
- 研究記事では、脅威行為者が不審なホストを介してMLマルウェアを挿入および配布するための難検出手法を探っており、Hugging Faceセキュリティ保護を迂回するために不正なPickleファイルを使用していることが明らかにされている。
- Hugging Faceに通知がされ、関連するMLモデルは取り下げられた。
- AIプラットフォームやコミュニティのセキュリティ確保が重要であり、nullifAIはAIが関与するソフトウェアサプライチェーンにおけるリスクの進化するカテゴリーの一例である。
自己学習および自己進化するAIコーディングツールプラットフォームは、新たなサイバーセキュリティリスクをもたらす可能性があり、企業のソフトウェア開発における新たな脅威となる可能性がある。AIコードが急増する中、ReversingLabsのSpectra Assureは、ソフトウェアベンダーやAIプラットフォームにAIモデルを出荷または組み込む前に、ソフトウェアに対する重要なビルドチェックを提供する。