Facebookのニュースフィードは奇妙で不安な場所と化している。 人工知能によって大量に生み出されたと思われる奇抜な画像が異常な注目を集めています。
非常に筋肉質の牛からエビとして再考されたイエスまで、これらの奇妙な創造物がプラットフォーム全体に広がり、続いて「」の合唱が続きます。アーメン」と疑いを持たないユーザーからのコメントです。
しかし、デジタルの不条理の波の背後には、より暗い現実が横たわっています。それは、ユーザーを誘惑するように設計されたページのネットワークです。 広告が満載のクリック ファーム。
AIの水門が開く
この現象の中心にあるのは、AI が生成した画像を容赦なく量産する数十の Facebook ページです。 これらのページでは、イエスをテーマにした投稿や、珍しいシナリオの客室乗務員など、奇妙なテーマが紹介されることがよくあります。 これらの投稿には、当惑のコメントからボットのような賞賛まで、何千もの反応が寄せられ、混乱したユーザーは画像が本物かどうかを悩んでいる。
最近の分析によると、 スタンフォードインターネット天文台、これらの画像は何億ものエンゲージメントを集めています。 AI によって生成された複雑なイエスの肖像画 (ペットボトルで作られることもあれば、砂から彫られることもあります) は、最も拡散された画像の 1 つです。 最近では、AI-Jesus の甲殻類への注目が高まっており、エビ、カニ、および同様の生き物が主役になっています。 客室乗務員は主に東アジアの女性として描かれており、イエスとともに祈ったり、十字架を抱いたり、泥にまみれたりするなど、ありそうもない場面で日常的に描かれている。 一方、黒人の幼い子供たちは、AI によって生成されたタイヤで作られたトラなど、おそらく手作りされた傑作を展示し、大きなセンセーションを巻き起こします。
AI の氾濫の背後にいるのは誰ですか?
この AI 画像の洪水の背後にある動機は不明です。 Meta はそのようなコンテンツにラベルを付ける必要があるにもかかわらず、これらの投稿の大部分は AI によって生成された性質を明らかにしていません。 詐欺の可能性が議論されていますが、これは単にユーザーがバイラル コンテンツの抜け穴を悪用したケースである可能性があります。
生成 AI テクノロジーがより利用しやすくなるにつれて、これらの合成画像が誤った情報や偽情報キャンペーンに使用される可能性があるという懸念が高まっています。
盗まれた Facebook ページとバイラルウェブ
スタンフォード大学の研究では、これらの多くが AI スパム ページは正規のプロファイルから再利用される。
学校、教会、さらには高校のバンドページさえも乗っ取られ、奇妙なAI画像のハブに変えられました。 元の所有者がページを取り戻そうとする試みは、Facebook から沈黙に遭ったと伝えられている。
光景と懸念
この光景は楽しさと当惑の両方を引き起こす一方で、不安感も増大しています。 ユーザーは、これらのページが詐欺の潜在的なターゲットを特定するために使用される可能性があると理論化しています。 センセーショナルな AI コンテンツの膨大な量と、だまされやすいユーザーが、悪意のある行為者や詐欺計画のためのネットワークを生み出す可能性があります。
AI が生成したエビ、イエス アート、Facebook 上の泥だらけの客室乗務員などの奇妙な物語は、新たな問題に厳しいスポットライトを当てています。 AI 画像生成がより高度になるにつれて、無害な奇妙さと危険な操作との境界線が曖昧になってきています。 これは、Facebook のようなソーシャル メディア プラットフォームが、より積極的な姿勢で特定し、 AI が生成したコンテンツのラベル付け。
注目の画像クレジット: 神を愛してください＆神を愛してください/Facebook。
