ベンジ・エドワーズ – 2024 年 5 月 7 日午後 7 時 22 分 UTC
ブルームバーグの報道によると、マイクロソフトは、インターネットから切断された状態で動作する、米国諜報機関向けに特別に設計されたGPT-4ベースの生成AIモデルを導入した。これは、スパイ機関が接続リスクなしに極秘情報を分析し、ChatGPTやMicrosoft Copilotに似たチャットボットと安全に会話できるように設計された、主要な言語モデルをマイクロソフトが安全な環境で展開した初めてのケースと報じられている。しかし、AI言語モデルに固有の設計上の制限により、適切に使用されなければ、職員を誤解させる可能性もある。
GPT-4 は OpenAI が作成した大規模言語モデル (LLM) で、シーケンス内の最も可能性の高いトークン (エンコードされたデータの断片) を予測します。コンピューター コードの作成や情報の分析に使用できます。チャットボット (ChatGPT など) として構成すると、GPT-4 は人間のように会話する AI アシスタントを強化できます。Microsoft は OpenAI に多額の投資を行ったことと引き換えに、契約の一環としてこのテクノロジを使用するライセンスを取得しています。
報道によると、新しい AI サービス (まだ名前は公表されていない) は、機密データの処理に生成 AI を使用し、データ漏洩やハッキングの試みのリスクを軽減したいという諜報機関の関心の高まりに対応するものだ。ChatGPT は通常、Microsoft が提供するクラウド サーバーで実行されるため、データ漏洩や傍受のリスクが生じる可能性がある。これに関連して、CIA は昨年 ChatGPT のようなサービスを作成する計画を発表したが、この Microsoft の取り組みは別のプロジェクトであると報じられている。
マイクロソフトの戦略ミッションおよびテクノロジー担当最高技術責任者ウィリアム・チャペル氏はブルームバーグに対し、新システムの開発にはアイオワ州のAIスーパーコンピューターを改造する18カ月の作業が必要だったと述べた。改造されたGPT-4モデルは、ユーザーが提供するファイルを読み取るように設計されているが、オープンなインターネットにはアクセスできない。「隔離バージョンは初めてです。隔離とはインターネットに接続されていないという意味です。そして、米国政府のみがアクセスできる特別なネットワーク上にあります」とチャペル氏はブルームバーグに語った。
この新しいサービスは木曜日に開始され、現在、諜報機関の約1万人が利用でき、関係機関によるさらなるテストに備えている。チャペル氏によると、現在は「質問に答えている」という。
GPT-4 を使用して重要なデータを分析する場合の重大な欠点の 1 つは、不正確な要約を作り上げたり、不正確な結論を導き出したり、ユーザーに不正確な情報を提供したりしてしまう可能性があることです。トレーニングされた AI ニューラル ネットワークはデータベースではなく、統計的確率に基づいて動作するため、検索拡張生成 (RAG) などの手法を使用して別のソースからの情報への外部アクセスを拡張しない限り、事実のリソースとしては不十分です。
この制限を考えると、GPT-4 が適切に使用されなければ、アメリカの諜報機関に誤った情報を提供したり、誤解を招いたりする可能性は十分にあります。このシステムにどのような監視があるのか、どのように使用できるか、または使用されることになるかについての制限はあるのか、あるいは正確性をどのように監査できるのかはわかりません。私たちは Microsoft にコメントを求めています。
Ars Orbital Transmission メーリングリストに参加して、毎週の最新情報をメールで受け取りましょう。登録する →
元記事: https://arstechnica.com/information-technology/2024/05/microsoft-launches-ai-chatbot-for-spies/