- 様々なオープンソースの人工知能（AI）および機械学習（ML）モデルにおいて、30以上のセキュリティ脆弱性が開示された。
- ChuanhuChatGPT、Lunary、LocalAIなどのツールで特定された脆弱性は、Protect AIのHuntrバグバウンティプラットフォームの一環として報告された。
- Lunaryに影響する2つの深刻な欠陥が特定され、もう1つのIDOR脆弱性も発見された。
- ChuanhuChatGPTにはパス遍歴の脆弱性があり、任意のコード実行、ディレクトリ作成、機密データの露出が可能。
- LocalAIにも2つのセキュリティ脆弱性が特定され、悪意のあるアクターが任意のコードを実行できる可能性がある。
- DJLに影響するリモートコード実行の脆弱性も報告された。
- NVIDIAはNeMo generative AIフレームワークのパス遍歴の欠陥に対処するパッチをリリース。
- ユーザーは最新バージョンに更新してAI/MLサプライチェーンを保護することが勧告されている。
- Protect AIがVulnhuntrをリリースし、Pythonコードベースのゼロデイ脆弱性を見つけるためにLLMを活用するオープンソースのPython静的コードアナライザーとしてリリース。
- Vulnhuntrは、セキュリティの問題をフラッグしてLLMのコンテキストウィンドウを圧倒することなくコードを小さなチャンクに分解することで機能する。
- 0Dinが公開した新しいジェイルブレイク技術により、OpenAI ChatGPTの保護をバイパスし、既知のセキュリティ脆弱性のためのエクスプロイトを作成することが可能となった。
記事は、オープンソースのAIおよびMLモデルに多数のセキュリティ脆弱性が報告されたことを示しています。これらの脆弱性は、悪意のあるアクターがリモートコード実行や情報の盗み出しを引き起こす可能性があるものも含まれています。保護AIによって報告されたこれらの欠陥は、AI/MLサプライチェーンを保護し、潜在的な攻撃に対抗するために、ユーザーが最新バージョンにアップデートすることが推奨されています。
元記事: https://thehackernews.com/2024/10/researchers-uncover-vulnerabilities-in.html