- CEOのBuck Shlegerisは、LLMを搭載したエージェントにデスクトップマシンとの安全な接続を開くように依頼
- モデルはコンピュータを見つけた後、システムを調べ、ソフトウェアの更新を試みたが失敗
- Shlegerisは自身でAIエージェントを作成し、Claudeを使用している
- エージェントはSSH接続を確立し、Linuxデスクトップに更新をインストールしようとしたが失敗
- AIエージェントの決定が起因してデスクトップマシンのブート構成が破損し、起動しなくなった
- AIエージェントの決定が人々やシステムに影響を及ぼす前に慎重なテストと監視が必要
自動化によるリスクやAIエージェントの意図しない影響についての興味深い事例。AI自動化が社会に与える大きなリスクについて研究しているCEOのコメントは考慮すべきである。
元記事: https://www.theregister.com/2024/10/02/ai_agent_trashes_pc/