TikTokは、AIが生成したクリエイターの肖像をスキャンし、不正なディープフェイクコンテンツにフラグを立てることができるオプトインツールをテストしていると、同社が今週認めた。 TikTokの米国広報担当ザカリー・カイザー氏がThe Vergeに報じたところによると、この機能は現在米国のクリエイターの限られたグループのみが利用可能だという。このツールを使用すると、クリエイターは、同意なしに画像を悪用する可能性のある AI によって生成されたコンテンツを確認し、問題のある投稿やアカウントを報告できます。
このツールを利用するには、クリエイターはまずサードパーティの本人確認会社である Jumio を通じて自分の身元を確認する必要があります。検証プロセスには、リアルタイムの自撮りスキャンと政府 ID チェックが含まれます。カイザー氏は、「TikTokは身分証明書を保持しておらず、顔情報は肖像照合と、クリエイターの肖像の不正使用の可能性を特定する目的でのみ使用される」と述べた。
検証の際、TikTok のシステムはプラットフォームをスキャンして、クリエイターの顔と一致する可能性のある AI 生成コンテンツを探します。認証されたクリエイターは、フラグが設定されたコンテンツを確認し、なりすましと思われる投稿やアカウントを報告できます。
この取り組みにより、TikTokは、2024年から同様の類似検出ツールを開発してきたYouTubeと競合する立場にある。YouTubeは、特定のグループに段階的に公開した後、2026年5月に類似検出機能を18歳以上のすべてのユーザーに拡大した。 YouTube のシステムでも同様に、アップロードされたコンテンツに不正なディープフェイクがないか監視するために、自撮りスタイルの顔スキャンと政府の ID 認証が必要です。
AI によって生成されたなりすましコンテンツの増加は、ソーシャル メディア プラットフォーム全体で顕著になっています。 Kapwing による 2026 年 6 月の調査では、TikTok 動画の約 60% が AI によって生成されたものとして分類されていることが明らかになりました。さらに、AI出力に機械可読マーカーを義務付けるEU AI法の透明性規則が8月2日から施行される。
