- Googleの「AI Overview」システムは、事前に広範囲のテストが行われたと言われていたにもかかわらず、誤情報を広める傾向にあることを認めている。
- AI Overviewsは、検索クエリに基づいた質問に対する簡単な要約回答を提供しようとするもので、歴史的事実やハウツーの質問などを自動的に概説の対象として選択するアルゴリズムがある。
- 一部の場合、AI Overviewは誤情報を提供し、例えば、最初の大統領就任舞踏会の場所を「Dolley Madison’s hotel」として言及したが、実際にはワシントンDCのLong’s Hotelで行われた。
- Googleは問題を回避しようと努めており、誤情報は稀だと述べていたが、現在AI Overviewモジュールに問題があることを認めている。
- AI Overviewsは一般的にWeb検索結果に基づいており、誤りがある場合はクエリの誤解、Web上の言語の微妙なニュアンスの誤解、あるいは十分な情報が利用できないことが原因である可能性がある。
私の考え：GoogleのAIは、誤情報を広めるリスクがあることが明らかになりました。AIが情報を取得する方法や解釈する方法について、さらに改善が必要であると感じられます。ユーザーフィードバックを真剣に受け止め、問題を解決する姿勢は評価できますが、技術の進化に伴う課題への対応が重要です。