米国商務省の国立標準技術研究所（NIST）は、生成AIを分析し、米国がAI生成コンテンツに騙されることなくこの技術を安全に使用できる方法を判断することを目的とした新しいプログラムを立ち上げた。
商務省の技術機会とリスクの分析と評価部門は、新しいプログラムをNIST GenAIと名付けている。同省は、GenAIベンチマークを作成し、コンテンツが人間によって生成されたものかAIによって生成されたものかを判断する方法を特定し、最終的には社会全体にとって有益なAI技術の開発を促進することを計画している。NISTは評価対象となるAI技術については明らかにしなかったが、「世界中で」開発されたAIモデルに取り組む予定であると述べた。
「このパイロット研究は、テキストからテキストへの変換（T2T）とテキストから画像への変換（T2I）方式で、合成コンテンツと人間が作成したコンテンツを区別するためのシステムの動作を測定し、理解することを目的としている」と当局は声明で述べた。「このパイロット研究は、人間が作成したコンテンツと合成コンテンツの違い、評価結果がユーザーを両者の区別に導くための指針となるかという研究課題に取り組んでいる」
さらに: 生成型AIとは何か、なぜ人気があるのか? 知っておくべきことはすべてここにあります
NISTの発表は、ジョー・バイデン米大統領がすべての米国政府機関に安全でセキュリティの高いAI戦略の開発を求める大統領令を発令してから6か月後に行われた。NISTは、その間にAIリスクの緩和や世界各国の政府や企業が利用できるグローバルAI標準の作成などを含む4つのAI出版物を作成したと述べた。
一方、NIST GenAI は、合成 AI、つまり人間ではなく AI モデルによって作成された画像やコンテンツの登場に特に注力しています。NIST は、研究者チームが「生成者」または「識別者」として NIST GenAI 評価に参加することを申請できるようにしています。前者のグループは、AI システムが「人間が作成したコンテンツと区別がつかない合成コンテンツを生成できる」かどうかをテストする役割を担います。識別者グループは、「大規模言語モデル (LLM) と生成 AI モデルによって作成された合成コンテンツを検出するシステムの能力についてテスト」されます。
NIST の合成 AI 検出への取り組みは、そのようなコンテンツが特許、人間の発明、そして世界中の産業にどのような影響を与えるかということにも焦点を当てています。同機関は、AI 生成コンテンツが特許を取得して米国の知的財産法で保護できるのか、あるいは保護すべきなのかを懸念しています。
「AIがイノベーションにおいてより大きな役割を担うようになるにつれ、我々はAIの責任ある安全な使用を奨励し、地域や世界の問題を解決し、将来の雇用と産業を発展させなければならない。その一方で、AIが人間の創意工夫と投資を奨励する上で知的財産が果たす重要な役割を妨げないようにしなければならない」と、知的財産担当商務次官のキャシー・ヴィダル氏は声明で述べた。
NISTは段階的にNIST GenAiを展開していく予定だ。同局は、2024年5月にプログラムへのチーム登録の受付を開始し、2024年8月に最初のテストラウンドを終了する予定だと述べた。同局は、その後のラウンドで取り組むAI関連のその他の問題については明らかにしなかった。
