- MicrosoftがPrompt Shieldsを発表し、Azure OpenAI Service向けにFoundation Models（大規模言語モデル）を搭載したアプリケーションを保護する新しいセキュリティ機能を一般提供開始。
- Prompt Shieldsは直接（ジェイルブレイク）攻撃と間接的なプロンプトインジェクション攻撃に対する保護を提供し、Azureプラットフォーム全体でAI駆動アプリケーションのセキュリティを向上させる。
- 間接的なプロンプトインジェクション攻撃は、外部データを処理する際に発生し、開発者やユーザーによって直接作成されていない情報を処理することで認可されていないアクションが発生する可能性がある。
- 直接攻撃と間接攻撃は異なる脅威モデルを持ち、Prompt Shieldsはこれらの攻撃を特定するのに役立つが、言語によって制限される可能性がある。
- MicrosoftはPrompt Shieldsを中国語、英語、フランス語、ドイツ語、スペイン語、イタリア語、日本語、ポルトガル語を使用して開発・テストしており、他の言語における攻撃の特定には効率的でない可能性がある。
MicrosoftのPrompt Shieldsは、AIモデルを悪用した攻撃に対処する新しいセキュリティ機能であり、Azureプラットフォーム全体のセキュリティを向上させる重要な取り組みであると考えられます。特に、大規模言語モデルを使用するアプリケーションが外部データを処理する際に発生する可能性のある攻撃に対して、Prompt Shieldsは重要な保護を提供することが期待されます。
元記事: https://redmondmag.com/articles/2024/09/04/prompt-shields-ai-system-security-now-available.aspx