要約:
- Googleの新しい人工知能検索ツールが導入されて数日後に、事実に反する検索結果を修正している。
- このツールは、ユーザーが質問に迅速に回答を得るために複数のリンクをクリックする必要がないよう、検索結果を要約する。
- ただし、この機能は、いくつかの質問に対して虚偽や誤解を招く情報を提供したため、批判を浴びた。
- 例えば、いくつかのユーザーが、GoogleのAI要約が元大統領オバマをムスリムと誤って述べたと報告。
- 別のユーザーが、要約が誤ってアフリカの54か国のうち「K」で始まる国がないと述べたことを投稿。
- Googleは、両方のクエリに対するAI概要を削除したと述べ、会社の方針に違反したためだと述べた。
- 広報担当者は、AI概要のほとんどが高品質の情報を提供し、ウェブで深く掘り下げるためのリンクを含んでいると述べた。
考察:
人工知能の発展により、情報の要約や提供が容易になっている一方で、誤った情報を提供するリスクもあることが明らかになった。GoogleのAI検索ツールが事実に反する情報を提供した例から、適切な監視と品質管理がいかに重要かが浮き彫りになっている。ユーザーに正確な情報を提供するためには、人間の介入や機械学習アルゴリズムの改善が欠かせないと考えられる。
元記事: https://www.kwch.com/2024/05/24/googles-search-ai-giving-factually-inaccurate-results/