ワークフローで生成型人工知能 (AI) を使用する企業が増えるにつれて、トレーニング データをどのように監視するかがますます重要になっています。
火曜日、データ セキュリティ プロバイダーの BigID は、トレーニング データをカスタマイズし、AI セキュリティを強化し、コンプライアンスの取り組みを効率化する、Microsoft Copilot 向けの新機能を発表しました。プレス リリースによると、これらの機能は、組織が「トレーニング データをスキャン、分類、ラベル付け、キュレート、カタログ化、クレンジングして、Microsoft Copilot がセキュリティ ガードレールを効果的に適用できるように支援する」のに役立ちます。
また、生成AIでコードをより速く書けるが、その際にはリスクに注意する必要がある。
新しい機能では、データ ガバナンス、つまり組織が内部データと外部データを管理し、効率的かつ安全に使用することを保証するために使用するプロセス、標準、ポリシーも改良されています。このアップデートにより、組織は AI 使用ポリシーをより簡単に実行して、データ漏洩リスクを回避し、情報に正確にラベルを付け、必要に応じて Copilot のセキュリティを維持するために権限を取り消すことが可能になります。
暗号化された、または構造化されていないデータセットは機密情報を隠す可能性がある。BigIDのアップグレードには、ユーザーがその情報にアクセスできるようにするクレンジングプロセスが含まれており、「Copilotの高品質なトレーニングデータが保証され、精度と信頼性が向上した優れたAIモデルが実現します」と同社はリリースで述べている。
BigID は、Microsoft のデータ セキュリティ製品スイートである Purview で AI を使用してデータを分類およびラベル付けすることで、Copilot のセキュリティ対策もアップグレードしています。新しい機能により、個人データの検索と管理が可能になり、より責任ある AI コンプライアンスと開発が可能になります。
また、Microsoft Copilot と Copilot Pro: サブスクリプション料金は価値がありますか?
同社は、新機能によりAIのセキュリティが強化されるだけでなく、モデルも改善されると主張している。
「Microsoft Purview による BigID の強化された機能により、組織はデータ ランドスケープの全体像を把握できるようになります」と BigID の CEO である Dimitri Sirota 氏はリリースで述べています。「これにより、Microsoft Copilot のトレーニング データセットのキュレーションとクレンジングが可能になり、より堅牢でバイアスのない AI モデルが実現します。」
BigID の発表によると、強化された機能は、Copilot ユーザーが責任を犠牲にすることなく AI の潜在能力を最大限に引き出せるようにすることを目的としているとのことです。開始するには、BigID のデモをリクエストできます。

元記事: https://www.zdnet.com/article/bigid-announces-new-ai-data-security-features-for-microsoft-copilot/