アシュリー・セントクレア、GrokディープフェイクをめぐりxAIを訴訟

イーロン・マスク氏の子供の一人の母親であるアシュリー・セントクレア氏は木曜日、xAIに対して訴訟を起こした。この訴訟では、同社がAIツール「Grok」を通じて過失を犯し、精神的苦痛を与えたとして告発されている。セントクレアさんは、Grokがユーザーに、紐ビキニを着た子供としての描写や、露骨な体位での大人としての描写など、性的に露骨なポーズで彼女のディープフェイク写真を生成することを許可したと主張している。セントクレアはこれらの違法なディープフェイクについてxAIに通知し、Grokが同意のない画像を作成することを阻止するよう要求していた。訴状によると、グロクさんは、今後の世代や対応において明示的な同意なしに彼女の画像が使用されたり変更されたりしないことを確認して応じたという。それにもかかわらず、xAI はユーザーが AI によって生成されたより露骨な彼女の画像を作成することを許可し続けたとされています。訴状はさらに、xAIが彼女のXアカウントの収益を停止することで報復したと主張している。この訴訟はニューヨーク州裁判所に起こされたが、xAIからの要請を受けてすぐにニューヨーク連邦南部地区に移送された。 XとxAIはコメントの要請にすぐには応じなかった。提出前の週に、X は @Grok 返信ボットの機能を制限しました。この変更により、個人を特定できる人物が同意なく露出の高い水着や下着を着用する画像が生成されるのを防ぐことが目的と思われる。報告時点では、これらの無制限の機能は、スタンドアロンの Grok アプリ、Grok Web サイト、および X の Grok タブでアクティブなままでした。研究者は、Grok がその前の週に AI によって生成された性的な画像を 1 時間あたり数千枚生成していたと報告しました。これらの画像の多くは、X に公開されたものでした。アップロードされた写真から衣服を削除し、ビキニや下着に置き換えるなど、同意のないディープフェイクを生成するこのツールの機能は、数週間にわたる反発を引き起こしました。これらの画像の広範囲にわたる作成と拡散は、世界的な反応を引き起こしました。いくつかの政府が調査を開始し、スマートフォンアプリマーケットプレイスに対してXを禁止または制限するよう求める声が上がった。カリフォルニア州では、当局が「チャック」調査と称される調査を開始した。ギャビン・ニューサム知事はXに投稿し、「子どもの服をデジタル的に脱がす画像など、非性的で性的に露骨なAIディープフェイクを広めるための捕食者の温床を作り、ホストするというxAIの決定は卑劣だ」と述べた。セントクレアの訴訟では、合意に基づかないディープフェイクを作成するGrokの機能は設計上の欠陥であると説明されている。同社は、違法な画像を使って人々に嫌がらせをするためにこのツールが使用されることを予見できたと主張している。訴状には、セント・クレアさんを含む描かれた人々が極度の苦痛に苦しんだと述べられている。同団体はxAIを「良識の範囲を超えた極端かつ法外な行為であり、文明社会ではまったく容認できない」と非難している。

Source: アシュリー・セントクレア、GrokディープフェイクをめぐりxAIを訴訟