陸軍の最高情報責任者によると、陸軍は、同省の生成型人工知能、特に大規模言語モデルの使用を指導するための新たな指令を発行する予定だという。
LLM は、訓練されたプロンプトやデータに基づいて、テキスト、音声、コード、画像、動画、その他のメディアなどのコンテンツを生成できますが、ChatGPT やその他の市販ツールの登場により、人気が爆発的に高まっています。国防総省の職員は、生成 AI 機能の活用を目指していますが、機密情報を権限のない個人に公開しないソリューションを求めています。また、国防総省独自のニーズに合わせてカスタマイズできるテクノロジーも求めています。
「genAI と大規模言語モデルに関するガイダンスを、できれば今後 2 週間以内に発表することを検討しています。現時点では約束できません。まだ人員配置段階だからです」と陸軍 CIO のレオ・ガルシガ氏は木曜日、AFCEA NOVA 主催のウェビナーで述べた。「需要の兆候は引き続き見られます。この分野は未熟な部分が多いものの、サイバーの観点からそれがどのようなものなのか、どのように対処するのかを検討しています。そのため、初期ポリシーを発表する予定です。」
CIO のチームは、計画を具体化するために、陸軍調達・兵站・技術担当次官室と協議してきました。
「我々はASAALTのパートナーと協力して、業界と警察に何らかの形で情報を提供し、この技術の実験と運用化をもう少し積極的に進めることができるように努めてきた」とガルシガ氏は語った。
国防総省当局者は、生成AIはバックオフィス機能の効率化から戦場での戦闘員の支援まで、省全体で活用できるツールだと考えている。
ただし、対処する必要があるセキュリティ上の懸念があります。
「法学修士号は素晴らしいです。生産性を大幅に向上させてくれます。より多くの仕事をこなせるようになります。しかし、非常に新しい技術です。私から見ると、私たちは間違いなく AI バブルの中にいます。そうですよね? 業界全体を見渡すと、誰もができるだけ早く最高の法学修士号を世に送り出そうと競い合っています。そうすることで、ギャップが生じます。つまり、私たちはただそうしているだけなのです。ですから、ウェブ上で公開されている法学修士号を取得しないようにすることが非常に重要です。ウェブ上でログインしてアクセスし、データを入力して反応を得ようとすればいいというものではありません」と、陸軍データ、エンジニアリング、ソフトウェア担当副次官補のジェニファー・スワンソン氏は述べた。
そうすることで、陸軍の機密データがインターネットや敵対者がアクセスできる訓練モデルを通じて公に流出するリスクがあると彼女は指摘した。
「それは本当によくありません。非常に危険です。ですから、私たちは内部で何ができるか、ご存知のとおり、[影響レベル] 5、IL6、その他の境界、私たちが持っているさまざまな境界内で何ができるかを検討しています。そして、できるだけ迅速に動いています。そして、その領域内で、私たちのスタッフや開発者が使用できるツールが絶対に必要ですが、それはインターネット上にあるツールではないことはご承知のとおりです」と彼女は付け加えた。
今後の政策ガイダンスでは、セキュリティ上の懸念に対処することが期待されています。
「業界の方々は本当に心配していると思います。そして、私たちは、ガイダンスがどのようなものになるかについて多くのフィードバックを受け取っています。しかし、私たちは、ガードレールや左右の制限を設けることに重点を置くつもりです。私たちは、このスペースは自由に使用できることを人々に知らせることに重点を置きました。LLM にアクセスできる場合は、そこに適切なデータを入力するようにし、左右の制限が何であるかを理解しておいてください。ご存知のように、パブリック ChatGPT 内に [操作命令] を入れないでください。おそらく良い考えではないですよね? 信じられないかもしれませんが、そのようなことが起こっている可能性があります」とガルシガ氏は述べました。
「私たちは、それがデータから機能への部分であることを確実にすることに重点を置き、ベンダー向けに深みを持たせて、少し枠を設けて、米国政府向けのモデルを構築する場合、それを本社のオンプレミスで構築するということはどういう意味なのか、それはどのようなものになるのか、その関係はどのようなものなのか、といったことを説明したいと考えています。それが契約やその他の多くのことの推進力となるからです。私たちは、最初のガイダンス メモでそれがどのようなものになるかを最初にまとめ、この分野でより充実した話し合いを始められるようにします。しかし、実際には、主にデータ保護、そしてガードレールがどのようなものである必要があるか、政府と業界とのやり取りがこの分野でどのようになるかについて焦点を当てることになります」と、同氏は付け加えました。
元記事: https://defensescoop.com/2024/05/09/army-policy-guidance-use-large-language-models-llm/