ジョー・バイデン大統領のAIに関する大統領令が政府にとって画期的な出来事となったことを受け、米国立標準技術研究所は月曜日、生成AIを評価するための新たなプログラムを発表し、同技術の利用に関する複数の草案文書を公開した。
商務省のNISTは月曜日、10月の命令が発令されてから180日が経過した時点で、同命令に対応する措置を講じた複数の機関の1つとなった。措置は主にAIのリスクを軽減することに焦点を当てており、生成AIに特に焦点を当てた措置もいくつか含まれていた。
「本日の発表は、透明性とすべての関係者からのフィードバックに対する我々の取り組み、そして短期間で成し遂げた大きな進歩を示すものだ」とジーナ・ライモンド商務長官は声明で述べた。「これらのリソースと、当省のこれまでのAIに関する取り組みにより、我々はAIにおける責任あるイノベーションとアメリカの技術的リーダーシップを継続的に支援していく」
NISTが月曜日に発表した4つの文書の中には、生成AIのリスクと技術の利用戦略の特定を支援することを目的とした出版物の草稿版が含まれていた。同機関の発表によると、この文書は命令書に概説されているように、すでに発表されているAIリスク管理フレームワークの補足資料として機能し、2,500人以上の会員からなる公開ワーキンググループからの意見を取り入れて作成されたという。
同局はまた、生成型AIツールとデュアルユース基盤モデルのソフトウェア開発手法を概説したセキュアソフトウェア開発フレームワークの補足資料の草案も発表した。同大統領令は、デュアルユース基盤モデルを「幅広いデータでトレーニングされ」、「幅広い状況に適用可能」であり、「セキュリティ、国家経済安全保障、国家公衆衛生または安全、またはこれらの問題の組み合わせに重大なリスクをもたらすタスクで高いレベルのパフォーマンスを発揮する、または発揮するように簡単に変更できる」モデルと定義している。
「生成型AIは、その潜在的な変革的メリットのすべてにおいて、従来のソフトウェアで見られるものとは大きく異なるリスクももたらします。これらのガイダンス文書は、ソフトウェア開発者にこれらの固有のリスクについて知らせるだけでなく、イノベーションをサポートしながらリスクを軽減する方法を開発するのにも役立ちます」と、NIST所長で商務省標準技術担当次官のローリー・E・ロカシオ氏は声明で述べた。
NISTはまた、合成コンテンツ（AIによって作成または改変されたもの）のリスク軽減に関する草案文書と、世界的なAI標準の開発計画も発表した。商務省の発表によると、4つの文書すべてに6月2日までのコメント期間が設けられている。
注目すべきことに、同局は生成型 AI 技術を評価するための「NIST GenAI」プログラムも発表した。発表によると、これは「NIST の米国 AI 安全研究所の作業に役立つ」とのことだ。この評価のパイロット プログラムへの登録は 5 月に開始される。
このプログラムは、ツールの能力をテストする一連の「チャレンジ問題」で生成AIを評価し、その情報を使用して「情報の完全性を促進し、デジタルコンテンツの安全で責任ある使用を導く」とリリースには記されている。「このプログラムの目標の1つは、特定のテキスト、画像、ビデオ、または音声録音を人間が作成したのか、AIが作成したのかを人々が判断できるようにすることです。」
生成AIに関する発表と焦点は、他の機関が月曜日に連邦政府によるそのようなツールの使用に関して同様の措置を講じたことを受けてのもの。人事管理局は連邦政府職員による生成AIツールの使用に関するガイダンスを発表し、一般調達局は連邦政府による生成AIツールの取得に関するリソースガイドを発表した。
元記事: https://fedscoop.com/nist-launches-genai-evaluation-program-releases-draft-ai-publications/<>