要約
- Security Boffinsは、GPT-4ボットの自己調整チームを使用して、半数以上のテストウェブサイトにハッキングを成功させました。
- GPT-4は、未知の「ゼロデイ」脆弱性を利用する方法を使用して、重要なCVEの87％を独力で悪用できました。
- 研究者たちは、HPTSAと呼ばれる手法を使用して、複数の自己複製LLMエージェントからなるチームを使用して、未知のゼロデイ脆弱性をハッキングできることを報告しました。
- HPTSAは、計画エージェントがプロセスを監視し、特定のタスクを持つ複数の「サブエージェント」を開始することで、単一のエージェントにかかる負担を軽減します。
- HPTSAは、15の実世界のWeb脆弱性に対するテストで、単一のLLMよりも550％効果的であり、15のゼロデイ脆弱性のうち8つを成功裏にハックしました。
考察
この研究は、自己生成AIを使用してセキュリティ上の脆弱性を悪用する新たな可能性を示しています。HPTSAのような手法は、単一のエージェントよりも効果的であり、未知の脆弱性に対処する際に重要な役割を果たすことが示されています。しかしながら、悪意ある攻撃に悪用されるリスクも存在します。セキュリティへの取り組みは、技術の進歩に追いつくことが必要です。
元記事: https://www.fudzilla.com/news/ai/59140-teams-of-ai-chatbots-can-hack-websites