発表内容には、ガイダンス文書の草案、国際標準の計画草案、および一般からの意見を募集する新しい測定プログラムが含まれます。
米国商務省は本日、バイデン大統領の安全でセキュリティが高く、信頼できるAI開発に関する大統領令（EO）から180年が経過したことを受けて、EOに関連するいくつかの新しい発表を行った。同省の国立標準技術研究所（NIST）は、人工知能（AI）システムの安全性、セキュリティ、信頼性の向上に役立つことを目的とした4つの草案を公開した。NISTはまた、人間のコンテンツとAIのコンテンツを区別する方法の開発を支援するチャレンジシリーズも開始した。NISTの公開に加えて、商務省の米国特許商標庁（USPTO）は、米国法の下で発明が特許を受けることができるかどうかを判断するために、芸術における通常のスキルのレベルがどのように評価されるかという評価にAIがどのように影響するかについてのフィードバックを求めるパブリックコメント要請（RFC）を公開しており、今年初めにはAI支援発明の特許性に関するガイダンスを公開している。
「バイデン大統領がAIに関する歴史的な大統領令を発令してから6か月間、商務省はAIの潜在能力を安全に活用し、それに伴うリスクを最小限に抑えるために必要なガイダンスの研究開発に懸命に取り組んできました」と、ジーナ・ライモンド米国商務長官は述べた。「本日の発表は、透明性とすべての関係者からのフィードバックに対する私たちの取り組み、そして短期間で成し遂げた大きな進歩を示しています。これらのリソースと商務省のAIに関するこれまでの取り組みにより、私たちはAIにおける責任あるイノベーションとアメリカの技術的リーダーシップを継続的に支援していきます。」
NIST の出版物は、AI テクノロジーのさまざまな側面をカバーしています。最初の 2 つは、チャットボットやテキストベースの画像およびビデオ作成ツールを可能にするテクノロジーである生成 AI のリスク管理を支援するために設計されたガイダンス ドキュメントであり、それぞれ NIST の AI リスク管理フレームワーク (AI RMF) およびセキュア ソフトウェア開発フレームワーク (SSDF) の補助リソースとして機能します。3 つ目の NIST の出版物は、AI によって変更できるデジタル コンテンツの透明性を促進するためのアプローチを示しています。4 つ目は、グローバル AI 標準の開発計画を提案しています。これらの出版物は初期ドラフトであり、NIST はこれを公開して一般からのフィードバックを求め、今年後半に最終版を提出します。
「生成型 AI は、変革をもたらす可能性のあるメリットがある一方で、従来のソフトウェアで見られるリスクとは大きく異なるリスクももたらします」と、商務省標準技術担当次官兼 NIST 所長のローリー E. ロカシオ氏は語ります。「これらのガイダンス文書は、ソフトウェア作成者にこれらの固有のリスクについて知らせるだけでなく、イノベーションをサポートしながらリスクを軽減する方法を開発するのにも役立ちます。」
USPTO は、発明が米国法の下で特許可能かどうかを判断する際に AI が評価にどのような影響を与えるかについてのフィードバックを求める RFC を公開しています。たとえば、AI の使用は、先行技術として何が適格か、およびその分野の通常の技能を持つ人のスキル レベルの評価に関する疑問を提起します。USPTO は、RFC への回答が、これらの問題に関するさらなるガイダンスの必要性を評価し、そのようなガイダンスの開発を支援し、裁判所での USPTO の作業や議会への技術的アドバイスの提供に役立つことを期待しています。
「AIがイノベーションでより大きな役割を担うようになるにつれ、私たちは責任ある安全なAIの使用を奨励し、地域や世界の問題を解決し、将来の雇用と産業を発展させる必要があります。その一方で、人間の創意工夫と投資を奨励する上で知的財産が果たす重要な役割がAIによって妨げられないようにしなければなりません」と、知的財産担当商務次官兼USPTO長官のキャシー・ヴィダル氏は述べた。「この取り組みは、USPTOがAI支援イノベーションの特許を発行した際に慎重に提示された発明者ガイダンスと、AIとあらゆる形態の知的財産の交差点における継続的な政策活動に基づいています。」
4 月 29 日に発表される内容の詳細については、以下をご覧ください。NIST の 4 つの出版物はすべて最初の公開草案であり、NIST は 2024 年 6 月 2 日までに各出版物に対するコメントを一般から募集しています。コメントの提出手順については、それぞれの出版物に記載されています。
AI RMF ジェネレーティブ AI プロファイル (NIST AI 600-1) は、組織がジェネレーティブ AI によってもたらされる固有のリスクを特定し、目標と優先事項に最も適したジェネレーティブ AI リスク管理のアクションを提案するのに役立ちます。過去 1 年間にわたって開発され、2,500 人以上のメンバーからなる NIST ジェネレーティブ AI パブリック ワーキング グループからの意見を取り入れたこのガイダンス ドキュメントは、NIST の AI RMF のユーザー向けの補助リソースとなることを目的としています。AI プロファイル ガイダンス ドキュメントは、13 のリスクと、開発者がリスクを管理するために実行できる 400 以上のアクションのリストを中心にしています。
13 のリスクには、化学兵器、生物兵器、放射線兵器、核兵器に関連する情報へのアクセスが容易になること、ハッキング、マルウェア、フィッシング、その他のサイバーセキュリティ攻撃の参入障壁が低くなること、ヘイトスピーチや有害、中傷的、またはステレオタイプ的なコンテンツが作成されるなどの問題が含まれます。これら 13 のリスクの詳細な説明に続いて、開発者がリスクを軽減するために実行できる 400 のアクションのマトリックスがあります。
2 番目の出版物である「生成 AI およびデュアルユース基盤モデル向けのセキュアなソフトウェア開発プラクティス (NIST 特別出版物 (SP) 800-218A)」は、SSDF (SP 800-218) と併用するように設計されています。SSDF はソフトウェアのコード行のセキュリティ保護に広く関係していますが、この付随リソースは SSDF を拡張して、生成 AI システムに悪影響を与える悪意のあるトレーニング データに関する懸念に対処するのに役立ちます。
この新しい付属リソースでは、AI システムのトレーニングと使用の側面を網羅するだけでなく、潜在的なリスク要因とそれに対処するための戦略を特定するマトリックスを含む、トレーニング データとデータ収集プロセスの取り扱いに関するガイダンスも提供しています。その他の推奨事項の中でも、このドキュメントでは、トレーニング データを分析して、汚染、偏り、均質性、改ざんの兆候がないか確認することを提案しています。
生成型 AI の発展に伴い、AI によって作成または変更された「合成」コンテンツが増加しています。デジタル コンテンツの透明性を促進するための技術的アプローチを提供することが、NIST の新しい草案「合成コンテンツがもたらすリスクの軽減 (NIST AI 100-4)」の目標です。この出版物は、AI EO セクション 4.5(a) で NIST にホワイト ハウスへの提出が義務付けられている合成コンテンツの出所と検出の理解に関する別のレポートに関する情報を提供し、それを補完するものです。
NIST AI 100-4 は、デジタル ウォーターマークやメタデータ記録などの合成コンテンツの検出、認証、ラベル付けの方法を示しています。この方法では、画像や音声記録などのコンテンツの出所や履歴を示す情報がコンテンツに埋め込まれ、その真正性の検証に役立ちます。このレポートは、合成コンテンツの危険性だけに焦点を当てているわけではありません。使用事例やコンテキストに基づいてコンテンツの透明性を向上させる技術的アプローチを理解して適用することで、合成コンテンツによるリスクを軽減することを目的としています。
AI システムは、アメリカ社会と世界中で変革を起こしています。AI 標準に関するグローバルな取り組み計画 (NIST AI 100-5) は、AI 関連のコンセンサス標準、協力と調整、情報共有の世界的な開発と実装を推進することを目的としています。
この草案では、AI の標準化が急務となっている分野やトピックについてフィードバックを求めています。標準化の準備が整っているトピックには、デジタル コンテンツの出所 (本物か合成かを問わず) の認識を高めるメカニズムや、AI システムのテスト、評価、検証、妥当性確認の共通プラクティスなどがあります。その他のトピックについては、潜在的な標準の重要な構成要素について基礎的な科学的理解を確立するために、より多くの科学的な研究と開発が必要になる可能性があります。
NIST は、4 つの文書に加えて、生成 AI 技術を評価および測定する新しいプログラムである NIST GenAI も発表しています。このプログラムは、大統領令に対する NIST の対応の一環であり、その取り組みは NIST の米国 AI 安全研究所の作業に役立つでしょう。
NIST GenAI プログラムは、生成 AI 技術の能力と限界を評価および測定するために設計された一連のチャレンジ問題を発行します。これらの評価は、情報の完全性を促進し、デジタル コンテンツの安全で責任ある使用を導くための戦略を特定するために使用されます。プログラムの目標の 1 つは、特定のテキスト、画像、ビデオ、またはオーディオ録音が人間によって作成されたのか AI によって作成されたのかを人々が判断できるようにすることです。パイロット評価への参加登録は 5 月に開始され、人間によって作成されたコンテンツと合成コンテンツの違いを理解することを目指します。チャレンジの詳細と登録方法については、NIST GenAI Web サイトをご覧ください。
連邦官報通知の全文は、こちらからご覧いただけます。コメントの提出期限は 2024 年 7 月 29 日です。コメントの提出方法については、連邦官報通知をご覧ください。
USPTO は、人工知能 (AI) の使用によって可能になったイノベーションへの投資を奨励、保護、促進し、AI 支援の発明の特許性について一般の人々に明確に伝えるために、以前に連邦官報にガイダンスを公開しました。
最新の投稿をメールで受け取るには購読してください。
メールアドレスを入力してください…
購読する
カテゴリー: 地方自治体、地域ニュース
タグ: AI、商務省、AI 標準に関するグローバルな取り組み、生成 AI のリスクの軽減、NIST GenAI、バイデン大統領の AI に関する大統領令、合成コンテンツのリスクの軽減、AI システムのトレーニングに使用されるデータへの脅威の軽減、特許性に関する USPTO RFC
このサイトはスパムを減らすために Akismet を使用しています。コメントデータの処理方法について詳しくはこちらをご覧ください。
———————————————————————————————————————————————————————————
地元のジャーナリズムを守るために、Fullerton Observer の印刷版またはオンライン版を購読してください。すべての版は無料ですが、購読すると紙面を印刷、配布、投稿できます。年間購読料はわずか 39 ドルです。1 分で完了します。購読するにはここをクリックしてください。Fullerton Observer をサポートしていただきありがとうございます。印刷版を見るにはここをクリックしてください。
———————————————————————————————————————————————————————————
今すぐ購読して、読み続けて完全なアーカイブにアクセスしてください。
メールアドレスを入力してください…
購読する
プライバシーポリシー | 利用規約