以下は、連邦政府職員による生成型人工知能の使用に関する OPM からのガイダンスです。
ここで使用されている「人工知能」(AI)は、予測、推奨、または決定を行うことができる機械ベースのシステムを指します。責任を持って使用すれば、連邦政府の運営とサービスの提供を改善できる強力なテクノロジーです。AI の幅広い分野において、生成 AI(GenAI)は、プロンプトまたは入力データに応じてテキスト、音声、画像、ビデオなどのコンテンツを生成できる、急速に進化しているテクノロジーです。GenAI テクノロジーは、インターネットから収集された公開テキスト、画像、音声、ビデオなど、大量のデータでトレーニングされます。
連邦政府職員である私にとって、これは何を意味するのでしょうか?
GenAI は、連邦政府の労働力が国民に成果を提供する方法を改善する可能性を秘めています。連邦政府の従業員は GenAI を活用して創造性、効率性、生産性を高めることができます。連邦政府機関と従業員は、これらのツールを最も効果的に使用して任務を遂行する方法を検討することをお勧めします。
連邦政府職員として、業務で GenAI を使用する利点とリスクを慎重に検討し、これらのツールを安全かつ確実に責任を持って使用する必要があります。
GenAI 使用の潜在的な利点とリスク
GenAI アプリケーションは、連邦政府の従業員に、生産性と機関の運営に関連する次のような多くの潜在的なメリットをもたらします。
• 手作業または反復的なタスクの効率を向上します。 • 会議メモや記録の要約、ドキュメントからの主要なアイデアまたは重要な要素の抽出などの情報の統合。 • ブレーンストーミングとアイデア出し。 • レポート、プレゼンテーション、電子メール、Web、またはソーシャル メディアのアウトラインまたはテキストと画像の生成を含む、コミュニケーション製品の下書きと設計。 • 文法、スペル、およびスタイルの提案を提供し、複雑な概念を平易な言葉に変換するなど、文章の改善と改良。 • 製品を他の言語に翻訳します。 • 問い合わせに対するカスタマイズされた応答を作成することで、顧客エクスペリエンスを強化します。 • オーディオやビデオの文字起こしなどの機能を通じてアクセシビリティを向上させます。 • コードを生成、説明、またはデバッグするか、1 つのプログラミング言語から別のプログラミング言語にコードを変換することにより、ソフトウェア開発を加速します。 • データセットを分析して洞察を引き出し、グラフを生成します。
GenAI の使用には、連邦政府の職員がこのテクノロジーを責任を持って活用できるように管理する必要がある潜在的なリスクも存在します。これには以下が含まれます。
• 推論の誤りや事実上不正確なテキスト、スピーチ、画像、動画などの捏造やエラー。 • 盗作や著作権侵害。 • ツールのセキュリティ上の脆弱性。 • トレーニング データ、プロンプト、入力データの意図しない開示を含むプライバシー リスク。 • 偏った、不公平な、または差別的なコンテンツの増幅。 • 違法または非倫理的な行動を促す AI 生成コンテンツなどの法的または倫理的リスク。 • コンテンツが不正確、信頼できない、または差別的である場合の機関の信頼性に対するリスク。 • 言語、分野、アプリケーションによって異なるパフォーマンス。 • 連邦政府外部の個人による、誤報の作成、公職者へのなりすまし、または機関へのスパム送信のための有害な使用。
GenAI を使用する連邦職員への推奨事項
職場で GenAI を使用して正式な業務を遂行する場合は、次の点に注意してください。
• AI ガバナンス、データ ガバナンス、プライバシー、セキュリティなど、所属機関のポリシーと手順に従ってください。 • 所属機関の GenAI リソースは、個人的な使用ではなく、公務の補助に使用してください。GenAI テクノロジの使用は、ログに記録され、監視される可能性があることを覚悟してください。 • 公務に使用できる承認済みの GenAI テクノロジのリストについては、所属機関にお問い合わせください。GenAI テクノロジをパブリック インターフェイス (つまり、一般公開されている GenAI を使用するアプリケーションまたはソフトウェア) または所属機関の安全なエンタープライズ システムを通じていつどのように使用するかについては、機関の指示に従ってください。どちらのアクセス タイプにも、情報の保存、再利用、開示に関連するリスクなど、リスクが伴うためです。 • GenAI インターフェイスに入力できる情報に関する制限を理解し、許可されている情報のみを入力してください。非公開情報をパブリック GenAI インターフェイスに入力しないでください。 • GenAI テクノロジの使用を監視します。GenAI テクノロジを、人間の説明責任と制御なしに自律的に動作させないでください。 • 引用元を含むすべての AI 生成資料をレビューし、有効、正確、完全、安全であることを確認します。 • AI 生成資料に、潜在的に偏った、有害な、ステレオタイプ的な、またはその他の不快な言葉や画像が含まれていないか確認してください。GenAI システムの安全でない、不快な、または誤解を招くような入力や出力に対するガードレールを改ざんしたり、無効にしようとしたりしないでください。 • AI 生成資料を含め、誠実さを維持し、倫理違反行為 (捏造、改ざん、盗用など) を避けてください。 • GenAI の使用をいつどのように開示するか (AI 生成資料のラベル、透かし、免責事項など) については、所属機関のポリシーに従ってください。
GenAI ツールは適切な目的にのみ使用し、マルウェア、ディープフェイク、有毒コンテンツ、または仕事に適さないとみなされるその他の素材など、悪意のある、不適切または違法な素材を生成するために使用しないでください。
一部の連邦政府機関では、すでに AI を使用して業務の効率と有効性を向上させています。各機関の報告された連邦政府の AI 使用事例は、AI.gov で確認できます。各機関がこのテクノロジーの導入を検討し続けるにつれて、このインベントリは GenAI の使用事例で更新されます。
以下は、業務の一環として遭遇する可能性のある GenAI の潜在的な使用例であり、使用に特化した追加の考慮事項と推奨事項を示しています。これらは、連邦政府職員が GenAI を使用する際に遵守すべき、考えられる使用方法や推奨事項の包括的なセットを示すものではありません。上司や関係機関の職員と協力して、GenAI が使用事例に適しているかどうか、どの GenAI テクノロジを使用すべきかなど、機関の特定のポリシーを理解してください。
GenAIを使用して情報を要約または分析する
用途: GenAI テクノロジーは、会議メモや議事録の要約、文書 (研究論文やポリシーなど) からの主要なアイデアの抽出、データの分析 (要約統計やグラフの作成など) などの情報の統合に使用できます。また、文書やデータに表示される特定のトピックに関する質問に答えることもできます。
考慮事項: GenAI テクノロジーは、要約から重要な詳細を省略したり、ドキュメントやデータに含まれていない情報を捏造したり、ソース入力に含まれていないトレーニング セットからの追加資料を含めたりする可能性があります。また、GenAI テクノロジーは、合成時に偏った言語や古い言語を導入する可能性もあります。推論エラーや数学的エラーが発生する可能性もあります。
GenAI を使用して情報を要約したりデータを分析したりする場合は、次の点に注意してください。 • AI が生成した要約の正確性と妥当性を確認し、事実の不正確さ、論理的推論や数学的エラー、不適切な言語などの潜在的な問題を検出して修正します。 • AI の要約が入力と一致しており、完全であり、ドキュメントやデータの範囲を超える情報が含まれていないことを確認します。 • AI が生成したコンテンツに、使用された情報の適切な引用、参照、またはその他の帰属があることを確認します。
GenAIを使用してコミュニケーション資料を作成する
用途: GenAI は、さまざまな読解レベル、言語、プラットフォーム、対象者向けのコミュニケーションを開発するための強力なツールになります。GenAI テクノロジーは、コンテンツの下書き、アウトラインの作成、文法とスペルの改善、コンテンツの平易な言葉への変換、複数の言語への資料の翻訳、オーディオまたはビジュアル アセットの生成に使用できます。
考慮事項: GenAI テクノロジーのトレーニング データは英語以外の言語やサービスが行き届いていないコミュニティの視点を均等に表していない可能性があるため、生成されたコミュニケーション出力は不正確、偏り、または有害である可能性があります。トレーニング データは古い場合もあり、AI によって生成された資料には最近のイベントや視点が含まれていない可能性があります。さらに、GenAI テクノロジーを使用してコミュニケーションを作成することは、デリケートなトピックやイベントには適さない可能性があります。
GenAI を使用してコミュニケーション資料を作成する場合は、次の点に注意してください。 • GenAI ツールによって作成されたコンテンツを各分野の専門家とともに確認し、事実確認します。たとえば、製品を別の言語に翻訳したり、新しい対象者向けに翻訳したりする場合、機関では、その言語に堪能でその文化的背景の知識を持つ人物にこれらの資料を確認するよう要求できます。 • 敬意と包摂性を備えた AI 生成のテキストと画像を選択し、最終製品のアクセシビリティを確認します。 • AI 生成コンテンツに著作権で保護された資料が含まれているかどうかを確認し、そのような資料の使用については機関の法律顧問に相談します。 • 外部および内部の対象者向けに作成された資料での GenAI の使用の開示に関する機関の要件を確認します。
ソフトウェアおよびコード開発に GenAI を使用する
用途: GenAI テクノロジーは、ソフトウェアおよびコード開発の効率と速度を向上させる可能性があります。たとえば、プログラミング コードの生成、レビュー、説明、デバッグに役立ちます。
考慮事項: AI によって生成されたコードにはバグが含まれていたり、セキュリティ上の脆弱性が生じたりする可能性があります。また、存在しないパッケージや悪意のあるパッケージなど、新しいライブラリや依存関係が導入される可能性もあります。また、帰属表示なしでオープンソース コードを借用する可能性もあります。
ソフトウェアまたはコード開発に GenAI を使用する場合は、次の点に注意してください。
• GenAI をこの目的で活用する前に、GenAI を使用してコード生成とレビューを実施するために必要な機関の承認があることを確認してください。ソフトウェアとコードの生成に関する機関のポリシーと業界のベスト プラクティスを確認してください。 • AI 生成コードを展開する前に、レビューとテストを実施してください。バグを修正し、脆弱性に対処し、AI 生成ライブラリと依存関係の正当性を確認します。AI 生成コードが意図したとおりに動作していることを確認します。 • コードのドキュメント化と保存、および GenAI の使用の開示に関する機関の要件を理解してください。内部コード (たとえば、機関のエンタープライズ コード リポジトリからの公開されていないコード) を公開インターフェイスに入力することの禁止など、制限されたアクティビティに特に注意してください。 • プロンプトや GenAI テクノロジーに入力されるデータセットにパスワード、キー、またはセキュリティ資格情報を含めないなど、機関のセキュリティ手順に従ってください。 • オープンソース コードの使用に関する機関のポリシーに従い、機関のライセンスと帰属の要件に準拠してください。
これらの使用法や、関心のあるその他の使用法について詳しく知るには、所属機関の最高 AI 責任者または他の機関の AI ガバナンス担当者に相談してください。
継続的な学習とトレーニング
これは進化を続ける分野であり、利用可能なツールに適応するにつれて、関連するトレーニングを最新の状態に保つことが重要です。行政管理予算局 (OMB) は、一般調達局 (GSA) と協力して、連邦職員向けの無料 AI トレーニングを試験的に実施しており、OPM と提携し、機関のニーズに基づいて連邦 AI トレーニング モジュールを作成、調整、提供し続けます。連邦職員は、ここ (MAX ページ) で 2023 年のトレーニングにアクセスできます。
さらに、大統領令 14110 では、政府機関に対し、従業員、管理者、技術部門のリーダー、および関連する政策、管理、調達、規制、倫理、ガバナンス、法律の分野における AI トレーニングおよび習熟プログラムを実施するか、その利用可能性と使用を増やすことを義務付けています。
詳細を確認するか、AI 実践コミュニティに参加するには、所属機関の最高人材責任者または最高学習責任者にお問い合わせください。
AI に関心がある場合、または GenAI テクノロジを使用、管理、開発、調達する予定がある場合は、連邦政府職員であれば誰でも参加できる AI 実践コミュニティ (AI CoP) に参加することをお勧めします。この実践コミュニティでは、トレーニングに関する一元化された情報を含むリソースを定期的に共有しています。
WEP、GPO 廃止案が再検討されるも、見通しは依然不透明
隣の芝生は青い?連邦政府の給付金の価値はいくら?
連邦退職年金に関する警告サイン: 連邦政府職員は過剰報酬を受けているか?
報告書:連邦政府職員は給与や福利厚生で民間部門に劣勢
報告書:社会保障を強化する選択肢は存在するが、待つことでさらに苦痛が増す
退職時に連邦保険を失わないための方法
TSP億万長者が他の人と違うことをする
避けるべき連邦退職年金の危険信号
連邦退職者にとって退職に最適な州
デジョイの郵便局に常識は存在するのか? 2024年5月1日掲載
TSP 参加者が避けるべき 5 つのよくある間違い 2024 年 5 月 7 日に投稿
特定のニーズを満たすために FEGLI 保険を「割り当てる」 2024 年 5 月 1 日に投稿
資産を守るために「傘」を開く 2024年5月1日掲載
テレワークと余剰オフィススペース:下院共和党がOMBを厳しく追及 2024年5月1日掲載

元記事: https://www.fedweek.com/issue-briefs/opm-issuse-guidance-on-benefits-risks-of-generative-ai-use-by-federal-employees/

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください