- Googleの新しい「AI Overview」ツールを使用して、ソーシャルメディアユーザーやコンピュータサイエンティスト、ジャーナリストが強調した事実に反する情報がいくつか明らかにされた。
- AI Overviewは、大規模言語モデル（LLM）に基づいた新しい検索エンジン機能であり、ユーザーが入力した検索条件に基づいて人工知能による要約を提供することを意図している。
- AI Overviewは、大量のデータ（通常はテキスト）で訓練された生成的AIを使用しており、新しいメディアを生成することができる。
- 生成的AIの特徴の1つは、「幻覚」を引き起こすことであり、AIがデータを埋める方法がわからない場合に誤った情報を挿入する可能性がある。
- 新しい技術の倫理的考慮事項について懸念を示すユーザーもおり、生成的AIのアルゴリズムはまだ「幻覚」に苦しんでいる。
生成的AIの発展により、新しいメディアの生成に革新がもたらされていますが、誤情報を含む可能性があり、その使用には慎重さが求められます。
元記事: https://cosmosmagazine.com/technology/ai/google-ai-search-tool-misinformation/