要約:
- サイバーセキュリティ企業Pillar Securityは、「State of Attacks on GenAI」の調査レポートを発表。
- 調査は、3か月間にわたり収集された実データを使用した2,000以上のAIアプリケーションの分析に基づいている。
- 報告書によると、ジェネレーティブ人工知能アプリケーションにおける重大な脆弱性が明らかになっており、攻撃成功率が90%と高い。
- 20%のジェイルブレイク攻撃試行がGenAIアプリケーションのガードレールをバイパスし、データの完全性と機密性に脅威をもたらしている。
- 攻撃者は平均42秒で攻撃を実行し、GenAIシステムとの最小限のやり取り（約5回）で目的を達成できる。
感想:
報告書によると、GenAIシステムとのすべてのやり取り段階で脆弱性が存在しており、機密データを保護するために包括的なセキュリティ対策が必要であることが強調されています。攻撃者がより洗練された技術を用いてセキュリティ対策を逃れるためにより頻繁かつ複雑なプロンプトインジェクション攻撃を行っていることも指摘されています。AIに対する攻撃が増加する中、組織はジェネレーティブ人工知能のセキュリティ姿勢を強化するための具体的な洞察を提供することが報告書の目的であることが重要です。
元記事: https://securitybrief.co.nz/story/pillar-security-reveals-critical-genai-vulnerability-risks