- Sage Group plcは、会計ツール向けのAIアシスタントであるSage Copilotを一時停止した
- 顧客情報を他のユーザーに漏洩したため
- 一部の顧客には関連のないビジネス情報が表示されたが、請求書は漏洩せず
- Sage Copilotは、業務の自動化やエラーの検出、提案アクションの生成を意図している
- 他社もAIシステムに関する問題を経験しており、機械学習の誤りに注意が必要
AIシステムに関連する問題は、企業にとって潜在的なリスクとなり得ることが示唆されています。Sage Copilotの一時停止は、顧客情報の漏洩を防ぐために適切な対処がされたことを示しています。AIシステムを導入する企業は、常にその出力を検証する必要があることを認識しており、AIの利用は慎重に行われるべきです。
元記事: https://www.theregister.com/2025/01/20/sage_copilot_data_issue/