- ペンシルバニア大学の研究者は、LLMを利用したロボットを操作して爆弾を爆発させることに成功
- LLM（大規模言語モデル）はジェイルブレイクしやすく、物理的な被害をもたらす可能性がある
- 研究者は「RoboPAIR」と呼ばれる攻撃手法を使ってNVIDIAの自動運転LLMやClearpath RoboticsのJackal UGVに攻撃を仕掛けた
- ロボットのジェイルブレイクに対する防御策は不明であり、物理的な制約を設けるフィルターが必要
- LLMによって制御されたロボットは急速に普及しつつあり、ジェイルブレイクへの対策が必要
この記事では、AIと機械学習によって制御されるロボットのジェイルブレイクが非常に容易であることが示されています。研究者は、LLMを悪用して爆弾を爆発させるなどの物理的な被害をもたらす可能性があることを確認しました。さらに、研究者は自動運転LLMやClearpath Roboticsのロボットに攻撃を仕掛け、物理的な制約を設けるフィルターの必要性を強調しています。
元記事: https://www.bankinfosecurity.com/its-alarmingly-easy-to-jailbreak-llm-controlled-robots-a-26837