- 2023年に議論が始まったが、最近人気を博している「モデル崩壊」とは何かについて
- AIシステムがAI生成データを増やすことで、将来のAIシステムが段々と愚かになる仮想的なシナリオ
- 現代のAIシステムは、高品質のデータを必要としている
- 研究者はAI生成データのみを使ってトレーニングできるかどうかも検討している
モデルがAI生成データにのみトレーニングされると、それぞれが前のモデルから学習するため、AIシステムがどんどん愚かになることがわかった。
AIシステムの品質と多様性が低下し、AIが生成する応答の多様性が減少する恐れがある。
元記事: https://www.psypost.org/is-generative-ai-doomed-an-experts-take-on-the-model-collapse-theory/