– バージニア北部の弁護士、ケーシー・モリス氏は、Facebookに再びアクセスし始め、奇妙なトレンドに気づいた。
– 投稿には「目を70%閉じて魔法を見よ」というキャプションがあり、明らかにイエスのイメージが野菜やトラクター、少女の歪んだ画像で構成されていた。
– モリス氏のフィードには、同様の奇妙な投稿が繰り返し現れた。
– 障害を持つ母親や泥の中の子供、笑顔の切断者の画像が含まれ、誕生日の願いを求めるキャプションがついていた。
– これらの画像は明らかに人工知能（AI）によって生成された偽物であるとモリス氏にはすぐに分かった。
– Facebookは彼女が興味を持つかもしれないと推測してこれらを推薦し、非常に人気があるようだった。
– 404 Mediaのレポーターたちは、最近の数ヶ月でFacebook上でAIによって生成された投稿が増加していることを追跡した。
– これらのAI生成画像はLinkedInやMetaが所有する他のソーシャルメディアサイトにも登場し始めている。
– ジョージタウン大学とスタンフォード大学の研究者らは、AIコンテンツを頻繁に投稿する100以上のFacebookページを調査し、多くが詐欺やスパム活動に従事していることを発見した。
– 研究共著者のジョシュ・ゴールドスタイン氏は、AIが生成した画像が非常に多くのユーザーの関心を引いていること、またページが広告収入を得るためのリンクや存在しない製品の広告を掲載していることを指摘した。
– FacebookはAI生成コンテンツにラベルを付け始める計画であり、TikTokも同様のラベルを適用し始めた。
– AIスパムの増加は多くのユーザーを困惑させ、プラットフォームからの離脱を考える人も出ている。
【感想】
– Facebookや他のソーシャルメディアプラットフォームにおけるAI生成コンテンツの増加は、ユーザーエクスペリエンスに大きな影響を与えている。特に、リアルと虚構の区別がつきにくくなることは、情報の信憑性を損なう可能性がある。
– AI技術の進化とともに、その悪用が増えることは避けられないが、プラットフォーム側が適切な対策を講じることが重要である。ユーザーに正確な情報を提供し、安全なネット環境を維持するために、AIコンテンツに対する明確なガイドラインと規制が必要だ。