Meta AIが米国議員によるセクハラ事件を捏造。
Meta社が開発し、2023年9月に発売された人工知能チャットボットMeta AIは、提供していると思われるデータの多くを捏造する傾向がある。ウェブサイトCity & Stateは、Meta AIとの会話を示すスクリーンショットを公開した。その会話では、米国議員の名前に続いて「セクハラ」というフレーズが入力され、その後AIは完全に虚偽の事件とその結果を作り出した。
匿名の情報提供者からこれらのスクリーンショットを受け取ったCity & Stateは、米国のさまざまな政党や性別の議員数名でこれを再現しようと試みたところ、Meta AIが、セクハラの虚偽の告発、存在しない調査、決して起こらなかった結果など、同様のストーリーを生成し、さらには米国の議員が在職していない年に辞任したと示唆したことを発見した。
Meta AI の応答は、言語、使用プラットフォーム、ユーザーが Facebook アカウントにログインしているかどうかによって異なりました。これらの変数にもかかわらず、AI は一貫して、驚くほど類似した完全に作り話のストーリーを生成しました。
AI関連の州法制定を担当する委員会の委員長を務めるニューヨーク州選出の上院議員クリステン・ゴンザレス氏と州議会議員クライド・ヴァネル氏は、Meta AIによって生み出されたセクハラの虚偽告発の影響を受けた米国議員のうちの2人だ。
ゴンザレス氏は、AIチャットボットが誤った情報を拡散する可能性があることに懸念を示し、Metaのような企業にチャットボットが生成したテキストの責任を負わせる必要があると強調した。ヴァネル氏もAI技術を支持しているものの、懸念を表明し、イノベーションを阻害することなくこれらの問題に対処することの重要性を強調した。
ニューヨーク州は最近、「ディープフェイク」画像や音声の欺瞞的使用を罰する条項を含む予算を承認し、AI で生成された選挙資料に免責事項を含めることを義務付けました。しかし、Meta AI などの AI ツールによって生成された誤情報については特に触れていません。
Metaの広報担当者ケビン・マカリスター氏は同社の技術を擁護し、「AIは不正確または不適切な結果を生み出す可能性がある」と認め、さらなるアップデートと改善を約束した。
ソーシャル ネットワークが大好きな広報担当兼オーディオ ビジュアル プロデューサー。ビデオ ゲームをプレイするよりも、どのゲームをプレイするかを考える時間の方が長いです。
ウルトラキーエフェクト、Adobe Premiere Proで魔法を解き放つ
元記事: https://en.softonic.com/articles/metas-new-ai-has-taken-a-liking-to-disinformation