Graphikaが報じたように、AIディープフェイクヌードサービスの大幅な増加は、同意のない親密な画像を生成するために人工知能を使用するという不穏な傾向を浮き彫りにし、深刻な倫理的および法的懸念を引き起こしている。
AI脱衣ツールの人気が高まる
ソーシャルメディア分析会社Graphikaは、「AI脱衣」ツールの使用が憂慮すべき増加を報告した。 これらの生成 AI ツールは、ユーザーが送信した画像から衣服を除去するように正確に調整されており、これらのサービスへのオンライン参照数は 2,408% という驚異的な増加を示しています。
同意のない合成親密画像 (NCII) には通常、描かれている個人の同意なしに露骨なコンテンツが生成されます。 これらのツールは、ターゲットを絞った嫌がらせ、セクストーション、児童性的虐待素材 (CSAM) の作成の脅威をもたらします。
英国に本拠を置くインターネット監視会社である Internet Watch Foundation (IWF) は、AI によって生成されたポルノと本物の画像を区別することが困難であり、オンラインでの虐待と闘う取り組みを複雑にしていると強調しました。
国際的な対応
国連は、AI生成メディアは情報の完全性に対する「深刻かつ緊急の」脅威であると述べています。 これに応えて、欧州議会と欧州理事会は最近、EU における AI の使用を管理する規則について合意しました。
Source: AI生成のディープフェイクヌードサービスの急増に警鐘
