- LLMsは基本的に見たパターンに一致し、数学的な制約によって能力が制限される。
- 新しい「state-space model」も同様の制限を示す。
- 一般の人々にはそれが推論を行っているかどうかは関係ないが、モデルを構築し能力を理解しようとする人々にとっては重要。
- AIセレブたちはLLMsの効果を褒め称えているが、それは自己利益的な大げさな話であり、AGIにはつながらない。
- LLMsはテキストとその現実世界との関係を理解できず、事実とフィクション、相関と因果の区別ができない。
LLMsやchatbotの開発者は、数学的な制約や能力の限界に直面しており、AGIにはつながらない可能性が高いことが指摘されています。一方、AIセレブたちは大げさな話をしているが、実際にはLLMsは重要な問題を扱う際に不確実性が含まれている場合には役立たず、AGIへの道は遠いようです。
元記事: https://mindmatters.ai/brief/programmers-admit-fundamental-limits-to-chatbot-thinking/