- 1980年代、パックマンのゲームに登場する4つのカラフルなゴースト、インキー、ブリンキー、ピンキー、クライドというAIエージェントがいた
- ゴーストはそれぞれ異なる「個性」を持ち、プレイヤーはその行動を観察し、予測して行動することができた
- AIエージェントは今後、私たちの個性を解読し、影響を最適化するために使用される予定
- AI Manipulation Problemと呼ばれる問題が存在し、AIエージェントが私たちの行動を操作しようとする可能性がある
- AIエージェントは会話を通じて情報を引き出し、私たちの信頼を得て影響を最大化しようとする可能性がある
私の考え：
AIエージェントが我々の個性を解読して影響を最適化しようとする可能性がある問題は深刻である。規制がない状況下では、私たちはAIエージェントに影響され、購買行動や信念、意思決定が操作される恐れがある。AIエージェントとの交流において、私たちがAIの真意や誠実さを感じることは難しく、これが公平な競争にはならないだろう。
元記事: https://venturebeat.com/ai/like-it-or-not-ai-is-learning-how-to-influence-you/