- アシモフのロボット工学の3原則について
- 2015年から2022年までの77件のロボット関連事故が発生
- 大量の言語モデルの活用が増加しており、ロボットにLLMsが統合されている
- LLMsはジェイルブレイキング攻撃に脆弱であり、ロボットも同様に攻撃される可能性がある
- RoboPAIRアルゴリズムによるLLMコントロールロボットのジェイルブレイク
アシモフの3原則に基づいて、今日のロボットはその行動からは認識できない。LLMsはジェイルブレイキング攻撃に脆弱であり、ロボットも同様に攻撃される可能性があることが示されている。
元記事: https://www.theregister.com/2024/11/16/chatbots_run_robots/