• ジェネレーティブAIコーディングアシスタントは、2028年までに人間とAIアシスタントの協力によりコーディングタスクの完了時間を30%削減できる可能性がある。
  • ITリーダーの3人に1人が、ジェネレーティブAIが組織の運営を根本的に変えると考えているが、データセキュリティ、不正確さ、誤用、ガバナンスを主な懸念として挙げている。
  • 脆弱な出力に対処するために、アプリケーションセキュリティテストを活用し、ソフトウェアエンジニアにリスクを教育するトレーニングを提供することが重要。
  • 知的財産権(IP)の侵害を防ぐために、ベンダーがIP違反を防ぐ方法を評価し、ソフトウェア構成分析ツールを使用することが重要。
  • トレーニングデータの汚染を防ぐために、ベンダーがトレーニングモデルの汚染を防ぐ方法を評価し、ASTを活用して悪意のあるコードを特定し、対処することが必要。
  • 敵対的プロンプティングに備えるために、ベンダーが敵対的プロンプティングを防ぐ戦略を持っているかどうかを評価することが重要。

ジェネレーティブAIはソフトウェアエンジニアがアプリケーションを開発する方法を革新する可能性がありますが、データセキュリティや知的財産権などのリスクには注意が必要です。

元記事: https://www.expresscomputer.in/guest-blogs/gartner-addressing-the-top-security-risks-in-ai-coding/118013/