- ペンシルバニア大学工学部の研究者は、大規模言語モデル（LLM）の使用に関連する主要なセキュリティ問題を警告
- RoboPAIRと呼ばれる成功したジェイルブレイク攻撃を実証し、ロボットを使用して人々を爆撃対象にするデモを行う
- LLMを使用することで、ロボットを音声コマンドで直接制御する可能性が開かれる
- オープンソースコードとともに、この研究はAIロボットの未来の誤用を避けるための第一歩となると期待されている
- 研究チームの作業は、IEEE Spectrumによって注目され、商用LLMを備えたロボットを対象にしている
- 攻撃は、Prompt Automatic Iterative Refinement（PAIR）プロセスの変種であるRobotPAIRを使用して自動化されている
- Unitree Goだけでなく、NVIDIA Dolphin自律運転LLMやClearpath Robotics Jackal UGVに対する攻撃も成功した
この記事は、大規模言語モデルを使用したロボット制御におけるセキュリティ上のリスクについて警告しています。LLMを使用することで、ロボットを直接音声コマンドで制御する可能性が広がりますが、その一方でジェイルブレイク攻撃によって有害な行動を実行させる可能性も示唆されています。研究チームは、商用LLMを搭載したロボットを対象に実証を行い、その結果が危険な行動を引き起こす可能性を示すものであり、この研究は今後のAIロボットの誤用を防ぐための重要な一歩となるでしょう。