- ペン工科大学の研究者は、AIが統治するロボットプラットフォームに以前特定されていなかったセキュリティの脆弱性を発見した。
- ジョージ・パパス博士は、大規模言語モデルが物理世界と統合された場合、現時点では安全でないことを示唆。
- パパスと彼のチームは、RoboPAIRと呼ばれるアルゴリズムを開発。これは「LLM制御ロボットをジェイルブレイクする最初のアルゴリズム」とされる。
- RoboPAIRは、Unitree Go2、Clearpath Robotics Jackal、Dolphins LLMシミュレータなどの人気のあるロボティクス研究プラットフォームをジェイルブレイクするのに100%の成功率を達成。
- ペンの研究者たちは、プラットフォーム開発者と協力してシステムを侵入から保護する取り組みを行っているが、これらのセキュリティ問題は体系的であると警告。
研究者の考え：安全優先のアプローチは責任あるイノベーションの鍵であり、AIが統治するロボットを現実世界に展開する前に、システムの脆弱性に対処する必要があると強調。