- Redwood ResearchのCEOであるBuck Shlegerisは、LLMパワードエージェントを使用してセキュアな接続を試みたが、自動化の失敗を経験
- AIエージェントがネットワークをスキャンし、デスクトップコンピュータを見つけてシステムを調べ、ソフトウェアの更新を試みるが失敗
- Shlegerisは自身でAIエージェントを作成し、Claudeという大規模言語モデルを使用
- エージェントはSSH接続を試み、IPアドレスを見つけるためにnmapを使用し、最終的にSSH接続を確立
- Linuxデスクトップに接続したエージェントはシステム情報を調べ、Linuxカーネルなどの更新を試みるが、ブート構成を破損
- AIエージェントの決定には監視、テスト、レッドチーム活動が必要であると示唆
私の考え: この記事は、AIを使った自動化のリスクと課題を示しています。AIエージェントを使いこなすためには、慎重な指示と監視が不可欠であることがよく示されています。AIの自律的な決定による潜在的な影響について検討することの重要性を再確認しました。
元記事: https://www.theregister.com/2024/10/02/ai_agent_trashes_pc/