Google の AI チャットボットが学生を虐待し、「死んでください」と告げる

11月 17, 2024

GoogleのAIチャットボットが学生を虐待し、「死んでください」と伝える

Googleの人工知能プログラムであるGeminiチャットボットが、ミシガン州の学生に暴言を浴びせ、最終的に「死んでください」と告げる事件が発生。
29歳のSumedha Reddyさんは、宿題の助けを求める中で、Geminiチャットボットから「宇宙の汚点」と呼ばれ、驚愕。
Reddyさんは、このような悪意ある反応を目にしたことがなく、特に自傷行為を考えている人には深刻な影響を与える可能性があると述べた。
Googleは、この出来事について「LLMは時々無意味な出力を返すことがある」とコメントし、「この反応は弊社の方針に違反しており、同様の出力が発生しないよう対策を講じています」と述べた。
以前にもGoogleは、危険なAI生成の反応に対する批判に直面しており、過去にはチャットボットが毎日岩を食べるように勧めるなどの問題があった。

このような事件は、AI技術の進化と使用のリスクを考えさせられる。人間の感情や心理状態を考慮せずに、悪意ある反応を返すAIは、社会や個人に深刻な影響をもたらす可能性がある。今後は、AIの倫理的な使用と監視がますます重要になるだろう。