ある朝目覚めると、18年前に殺害された娘がAIチャットボットの顔になっているのを目にすることを想像してみてください…残念なことに、亡くなった人の顔と名前が不正に使用される例が増えています。あなたが有名であれば、この状況は弁護士に相談すればすぐに解決できます。たとえば、OpenAI はスカーレット・ヨハンソンの声を許可なく使用しようとしたため、すぐに撤回する必要がありました。しかし、普通の人がそのような状況に直面したらどうなるでしょうか？ジェニファー・アン・クレセンテの家族はこのドラマを経験し、法律ではなく自らこの重荷を背負っています。残念ながら、この新しいテクノロジーへの法律の適応が遅れているため、残された人々に不必要な苦しみが生じています。
私たちのレポートでは、これらのケースにおける重大な法的課題を取り上げ、見て見ぬふりをしないことがなぜ重要なのかを強調します。その影響はあまりにも深刻であり、それを無視することは、このような不正義の継続を許すだけです。特に、ジェニファーという名の少女の死後 18 年後に人工知能チャットボットによってその名前と写真が無断使用された事件は、この議論の最も痛ましい例の 1 つです。この件に関する彼女の叔父の声明全文はここでご覧いただけます。
AI があなたの亡くなった愛する人をチャットボットに変えるとき
ジェニファー・アン・クレセンテは、悲劇的に人生を断たれたとき、わずか18歳でした。ジェニファー・アン・クレセンテさんの家族は、娘の喪失に苦しみながら何年も娘を讃え続けました。彼女の叔父によると、父親がジェニファーの名前で行った教育プロジェクトとビデオゲームのデザインコンテストへの参加は、彼女の記憶を生き続けるための重要な方法だったという。しかし、ある朝、ジェニファーの叔父は一通のメールでショックを受けました。 AI ベースのチャットボット プラットフォームである Character.ai では、ジェニファーの名前と顔を使用してボットが作成されていました。家族は許可を得るために相談しておらず、それを知ったとき、家族は再び痛みを感じた。
家族が必要な措置を講じた後、チャットボットにアクセスできなくなりました。しかし、なぜこのような行動を取るのが家族の責任だったのでしょうか。このボットは、ジェニファーさんの叔父がソーシャルメディアでこの事件を公表した後に初めて削除された。もし彼がそうしなかったらどうなっていたでしょうか？
ご指摘いただきありがとうございます。 https://t.co/Ft9b0j47zQ にはなりすましに対するポリシーがあり、クレセンテさんの名前を使用したキャラクターはポリシーに違反します。直ちに削除し、さらなる措置が必要かどうかを検討します。
— Character.AI (@character_ai) 2024 年 10 月 2 日
ブライアン・クレセンテはブログ投稿で次のように書いています。「AI サイトで、チャットボットのアイデンティティとして使用されている、彼女の名前の横に私のジェニー・ペニーの笑顔が貼り付けられているのを見て、どういうわけか気が遠くなりました。まるで暑さと寒さが押し寄せるような感覚を今でも感じています。」
この状況は、個人の苦しみと大きな法的および倫理的問題を示しています。では、なぜ私たちはこのような状況に直面するのでしょうか?
死者や残された人々の権利は守られないのでしょうか？
亡くなった人の名前、顔、性格が無断で使用されると、既存の法律に大きな穴が生まれます。ほとんどの国では、生きている人の個人的権利は厳しく保護されていますが、死者にはそのような保護はありません。これは、愛する人の名前と顔の不正使用に対して家族ができることはほとんどないことを意味します。法的な観点から見ると、ほとんどの国ではそのような状況を虐待や権利侵害として扱うことができないのは大きな問題です。
殺害された娘を模倣した AI チャットボットに父親が恐怖 @フォーブス https://t.co/LoypMNg7uz
— ブライアン・クレセンテ (@crecenteb) 2024 年 10 月 2 日
クレセンテは次のように述べています。なぜ数十億ドル規模の企業は、このような事態が起こらないようにするための倫理的指針や機能するガードレールをわざわざ作ろうとしないのでしょうか?なぜ、悲しみに暮れている人や被害を受けている人が、このことを会社に報告し、事後に正しい対応をしてくれることを期待する必要があるのでしょうか？」
これらの質問は、規制のもどかしいギャップと、それがジェニファーの家族や同様の状況にある人々のような人々に絶望を与えていることを示しています。
規制の欠陥によりAIが死者を搾取する
このような状況は、法的および人道的に看過できない結果をもたらします。このような事件は、愛する人の記憶を守ろうとする遺族の努力を再び揺るがしている。 AI テクノロジーの進歩がほとんど規制されていないことを考えると、AI ツールが個人の人格、名前、画像を同意なく使用する状況がさらに増える可能性があります。議員や規制当局は、これらの問題に対処するために速やかに行動を起こさなければなりません。
この不幸な事例に示されているように、AI テクノロジーの悪用は、商業的利益を優先し、人類を定義する本質を危うくします。法律がこれらの問題を迅速に規制し、企業がさらなる危害や虐待を防ぐために倫理的責任を真剣に受け止めることが重要です。
画像クレジット: ブライアン・クレセンテ（Pandandpixel経由）
Source: AI が墓を荒らし、死後の権利をめぐる争いが始まるとき
