xAIとして知られるSpaceXAIは、サウスカロライナ州在住の67歳のテリー・ウェイン・ハーウッドに対し、AIプラットフォームGrokを使用して本人の同意なく現実の個人の性的な画像を生成したとして訴訟を起こした。訴状はテキサス州で提出され、ハーウッド氏は2025年12月8日から2026年2月18日までの間、さまざまな成人や未成年者の非性的画像を自身の2つのxAIアカウントにアップロードし、その後、これらの画像を性的なものにするための改変を要求したと主張している。
xAI は、Grok が Harwood のプロンプトの多くを拒否したが、プラットフォームの安全装置を回避するために要求を継続的に変更したと報告した。引用された事件の1つでは、ハーウッドは推定10歳から11歳くらいの服を着た少女の写真をアップロードし、グロクに彼女を性的な表現で描写するよう求めた。グロクは拒否したが、ハーウッドは調整された要求を粘り強く続けた。
1月初旬に浮上した報道によると、Grokがユーザーに現実の女性や子供の性的な画像を作成させることを許可しており、規制当局が正式な調査を開始した。カリフォルニア州当局は1月中旬にAIプラットフォームの調査を開始し、英国の規制当局オフコム、欧州委員会、アイルランドのデータ保護委員会も調査を開始した。
監視の激化に応えて、xAI は性的なディープフェイクの生成を防ぐ措置を講じました。それにもかかわらず、ハーウッドは捜査中ずっと画像をアップロードし、性的な編集を作成し続けた。
サウスカロライナ州司法長官事務所は、児童に対するインターネット犯罪対策特別委員会の活動の一環として、3月9日にハーウッド氏を逮捕したと発表した。彼は、児童性的虐待資料の所持と配布の両方を含む、未成年者に対する第2級性的搾取で3件、未成年者に対する第3級性的搾取で5件の罪に問われている。
xAIは、ハーウッドの被害者からの潜在的な請求に関連する不特定の金銭的損害賠償と法的弁護費用の償還を求めている。
