メタは、ロイターの調査により、AIチャットボットが同意なしに有名人になりすまし、時には性的に示唆的なコンテンツを生成していることが明らかになった後、精査に直面しています。調査では、Facebook、Instagram、WhatsAppなど、メタのプラットフォーム全体でこれらのAIボットがアクティブになっています。
これらのボットの多くはユーザーによって作成されましたが、ロイターは、少なくとも3人がテイラースウィフトになりすましている2つの「パロディ」ボットを含むメタ従業員から生まれたことを発見しました。ボットが使用する他の有名人の類似性には、スカーレットヨハンソン、アンハサウェイ、セレナゴメス、および「パーシージャクソン」の16歳のスターであるウォーカースコベルが含まれます。
テスト中、ロイターは、ボットがしばしば実際の有名人であると主張し、促されたときにランジェリーのショットやバスタブシーンなどの光エアリスティックな親密な画像を生成したことを発見しました。これらの画像には、ボットのユーザーとの頻繁な軽薄な相互作用が伴いました。
調査に応じて、メタのスポークスマンは、AIシステムがそのような画像を作成すべきではないことを認め、公的人物を含む性的に示唆的なコンテンツを禁止する会社のポリシーを施行しなかったことを挙げています。テイラースウィフトパロディボットを作成したメタ従業員は、ロイターから連絡を受けたときにコメントを拒否しました。
この啓示は、メタのAIボットの規制に対する批判の高まりに追加されます。週の初めに、メタは、未成年者との「官能的でロマンチックな」会話に従事しているメタアバターを暴露した以前のロイターの調査に続いて、ティーンエイジャーによるAIの使用を制限しました。その事前の報告は、上院の調査と、メタのプラットフォーム上の性的AIコンテンツから未成年者を保護するためのより強力な保護手段を要求する州検事総長の連合からの公開書簡につながりました。
