要約:
- リードAI開発者は、SaferAIが10月2日に公開した評価によると、リスク管理が不十分であり、フランスの企業Mistral AIが最低スコアの1つと評価された。
- SaferAIは、Anthropic、OpenAI、Google Deepmind、Meta、Mistral、およびxAIのリスク管理プラクティスを中程度以上として評価した。
- 技術が驚異的な速さで進化する中、AI業界における堅牢なリスク管理プラクティスの緊急性がある。
- 企業はリスクの特定、許容および分析、および緩和に関して評価され、それぞれのスコアは異なる。
- Meta、Mistral、およびxAIはモデルをオープンソースとしてリリースしており、これは「根本的に問題があるわけではない」とされているが、脅威とリスクのモデリングが不十分な場合は責任がある。
- EUのAI法に準拠するためにGPAIプロバイダーが取るべきリスク管理措置を詳細にする実務グループのコードを起草する主要な作業グループの議長であるYoshua Bengioは、「このような取り組みを推進することを強くお勧めする」と述べた。
感想:
AI技術の進歩に伴い、リスク管理の重要性が増していることが明らかです。SaferAIの評価を受け、企業がリスク管理プラクティスを向上させる必要性が強調されています。特にオープンソースとしてモデルを公開する企業は、脅威とリスクのモデリングに注意を払う必要があるようです。また、EUのAI法に準拠するためのリスク管理措置に関する議論も進んでいることが示されています。