- OpenAIは、中国やロシアからの5つの秘密の影響作戦を阻止した。
- 脅威アクターはAIモデルを使用し、短いコメントや長い記事を生成し、ソーシャルメディアアカウントのための架空の名前やバイオを作成し、オープンソースの研究を行い、コードをデバッグし、テキストを翻訳して校正した。
- これらの作戦は、観客の関与や操作的なメッセージの拡散にはほとんど影響を与えなかった。
- 発見された作戦は、ロシアの2つ、中国の1つ、イランの1つ、イスラエルの商業会社に関連している。
- Bad GrammarとDoppelgangerはロシアの作戦であり、Spamouflageは中国の作戦、Union of Virtual Mediaはイランの作戦、Stoicはイスラエルの商業会社である。
私の考え: この記事は、AIを利用した影響作戦に関するOpenAIの活動に焦点を当てています。AIを悪用した情報操作の脅威についての警告が専門家からなされており、これらの作戦は影響を与えることなく発見されました。専門家たちは、AIによる情報操作が弱く効果的であることに驚いており、注意が必要であることを示唆しています。
元記事: https://www.govinfosecurity.com/openai-disrupts-ai-deployed-influence-operations-a-25386