- 米国AI安全研究所の新しい草案ガイダンスは、二重利用基盤モデルの誤用リスクを管理することに焦点を当て、害を防ぐための7つのアプローチを提供しています。
- Dioptraソフトウェアは、AI開発者やユーザーが敵対的攻撃がAIシステムのパフォーマンスを低下させる方法を評価するのに役立ちます。
- 三つの最終文書には、(i) AI RMF生成AIプロファイル、リスクを特定し、生成AIを管理するための行動を提案します。 (ii) 生成AIおよび二重利用基盤モデルのためのセキュアソフトウェア開発プラクティス、AIシステムのトレーニングに関連するリスクに対処します。 (iii) AI標準に関するグローバルエンゲージメント計画、AI標準に関する国際協力を促進することを目指しています。
これらの取り組みは、AI技術が責任を持って開発・展開され、潜在的なリスクを軽減しながら革新を支援するための広範な取り組みの一環です。
考え：
AI技術の発展と利用には様々なリスクが伴うため、これらの取り組みが重要であると考えます。特に、敵対的攻撃に対する脆弱性を評価し、そのリスクを最小限に抑える方法が提案されていることは、AIの安全性や信頼性向上に役立つと感じます。
元記事: https://www.jdsupra.com/legalnews/nist-department-of-commerce-announce-4211989/