報告によると、ビリー・アイリッシュの AI が生成した画像は、何百万回も再生されたビデオの中で、TikTok の「ディープフェイク ポルノ」の焦点となっていました。
ソーシャル ネットワークのプライマリ フィードである For You ページで、ユーザーは 20 歳の顔の老人が性的に誇張された体に置かれているビデオに出くわしました。 TikTokがセクシャルハラスメントに関するコミュニティガイドラインに違反したとしてクリップを禁止する前に、フォトギャラリーのスライドショーには1,100万人の視聴者がいたと言われています.
アプリがあからさまに性的なコンテンツをすべて禁止しているにもかかわらず、自己生成 AI を使用して、電話の画面に 4 日間表示されたとされるユア パワー シンガーのバージョンを再現すると主張する動画。
AI テクノロジーは、ビリー・アイリッシュの AI 生成ディープフェイクで行き過ぎたのでしょうか?
TikTokの独自のポリシーでは露骨に性的なコンテンツは禁止されているにもかかわらず、動画はアプリの「For You」タブに表示された.
Lensa や Midjourney などのアプリは、ここ数週間で多くの注目を集めており、その結果、自分の写真に基づく人々のデジタル ペルソナが、Instagram、Twitter、TikTok のいたるところで見られます。 しかし、プラットフォームが同意なしに女性の「ヌード」画像を生成するため、Lensa AI は NSFW コンテンツに関する熱い議論の中心にあるという多くの報告があります。
しかし、多くの女性は、服を脱いだり性的な身体を見せたりすることで、アプリがミソジニーを助長していると主張しています。
オンラインとオフラインの両方で性別に基づく虐待の被害者を支援するために、Chayn の作成者兼 CEO である Hera Hussain 氏は次のように述べています。
「TikTok アルゴリズムは、どのような種類のコンテンツがエンゲージメントを獲得しているかを識別するようには設定されておらず、これは重大な問題です。 これらの動画をユーザーのフィードに推奨するべきではありません。 無害なミームではありません。 歌手自身のビデオからの静止画ではありません。 AIが操作した超性的な画像です。」
– ヘラ・フセイン
TikTok アルゴリズムが NSFW コンテンツをサポートする方法がわかりにくい
ソーシャル メディア プラットフォームを使用している場合は、AI によって生成された写真が、あらゆる年齢の何百万人もの人々が使用している TikTok などの大きなプラットフォームで最近急速に広まっていることを知っておく必要があります。 ビリー・アイリッシュの AI が生成したディープフェイク ポルノのようなコンテンツが TikTok アルゴリズムによってユーザーに推奨されるというのは、本当に混乱を招きます。 残念ながら、このコンテンツは何日もプラットフォーム上にあり、削除される前に数百万回の閲覧がありました.
TikTokの広報担当者は、この件について次のように述べています。
「このコンテンツは、性的な暗示を描写または暗示するために別の個人の画像を変更または変形するコンテンツを許可しないことを明確に述べているコミュニティ ガイドラインに違反しています。」
– TikTokの広報担当者
AIが生成した写真への反応が急上昇
ソーシャル メディア プラットフォームでは、AI アプリケーションの害について多くの議論があります。ビリー アイリッシュ AI によって生成されたディープフェイクは、人気のあるアプリケーションであるレンサ AI が以前に女性を性的すぎると描写し、一部のアーティストの作品を盗んだとして告発された後、再び注目を集めました。 . などのツイッターで話題のつぶやきがたくさんあります @_キャサリン・アレンのツイート。
なぜこの AI 似顔絵アプリは私の服を脱がせようとするのでしょうか?!
Lensa を使用すると、20 枚の自撮り写真をアップロードするだけで、何十ものユニークで芸術的なあなたのポートレートが生成されます。 私はアップロードしたすべての写真で完全に服を着ていましたが（明らかに！）、生成された私の写真の一部はヌードでした
pic.twitter.com/rwOvPmrpFd
— キャサリン・アレン (@_CatherineAllen) 2022 年 12 月 10 日
最近、デジタル アーティスト専用のプラットフォームである ArtStation で、AI によって生成された画像に対する抗議が行われました。 アーティストは AI アートに反抗し始め、プラットフォームにアップロードした写真で「AI が生成した画像にノー」というメッセージを発しました。
AI 技術を正しく使用することは、私たちにとって間違いなく非常に重要な要素です。 AI は、何年にもわたって私たちの生活のさまざまな場面で私たちを助けてきましたが、残念なことに多くの議論の焦点となっており、最近ではバイラルになっています。 ほとんどの AI テクノロジーは自己学習プロトコルに従っていますが、アプリケーションの公開リリースは、AI の開発をサポートするのではなく、特に倫理的な問題で AI を後退させている可能性があります。 ChatGPT によって作成されたモデルを見ると、このテーマに関する OpenAI の留保により、現在のトピックでは使用されていない可能性があります。
