要約:
- 米国商務省国立標準技術研究所（NIST）が、AIシステムの性能に対する敵対的攻撃の影響を測定するためのソフトウェアパッケージとともに、3つのAIガイドラインを公表しました。
- 2023年10月23日に公表されたバイデン大統領のAI安全・安全な開発と利用に関する行政命令に対応しています。
- NISTは、民間および公的利害関係者と協力して、AI安全性とセキュリティに関する新しい基準の策定に取り組んでいます。
- NISTは2024年7月に公表したAIリスク管理フレームワークに続き、AI関連のガイドラインを公開し、デュアルリスク基盤モデルの誤用リスクを管理するための初期公開草案をリリースしました。
- NISTは敵対的機械学習に関する詳細を公表し、AIシステムに固有のサイバー攻撃に対処するためのオープンソースソフトウェアツール「Dioptra」を提供しています。
感想:
AIの安全性と信頼性に関する取り組みが重要であり、NISTのガイドラインやソフトウェアツールは、AI技術の開発と利用におけるリスク管理を支援する有益な手段となります。敵対的攻撃や誤用リスクなど、新たな脅威に対処するための取り組みが進められていることは、AI技術の発展において重要な一歩であると考えられます。
元記事: https://www.jdsupra.com/legalnews/nist-releases-series-of-ai-guidelines-8217380/