- 犯罪者は自分自身のLLMを訓練する必要がないことに気づいており、資格情報を盗んで既存のものをジェイルブレイクする方がはるかに安く簡単であることが脅威となっている
- LLMは社会工学キャンペーンでの支援に非常に優れている
- 2025年には、LLM生成のスピアフィッシュから始まる大規模なサプライチェーン攻撃が成功する可能性があると予想される
- 2024年には、犯罪者が盗まれたクラウド資格情報を使用してLLMにアクセスする傾向が増加している
- 失敗した攻撃は被害者に巨額の金銭的損失をもたらすだけでなく、企業のLLMが兵器化されるリスクもある
私の考え: ジェネレーティブAIを悪用した犯罪活動が増加しており、特にサプライチェーン攻撃やスピアフィッシングのリスクが高まっている。企業や個人はセキュリティ対策を強化し、慎重になる必要があると感じます。
元記事: https://www.theregister.com/2024/12/29/llm_supply_chain_attacks/