ソーシャルメディア分野の大手企業であるTikTokは、AI生成コンテンツの透明性とユーザーの認知度を高めるためにTikTokのウォーターマークを発表した。
これには、Content Credentials として知られる新しい透かしシステムの実装が含まれます。これは、Microsoft、Adobe、OpenAI などの企業が提供する高度な AI ツールを使用して作成されたコンテンツについてユーザーに通知することを目的としたステップです。
TikTok の Content Credentials の背後にあるコンセプトには、AI によって生成されたデジタル メディア (写真、ビデオ、オーディオ) にタグを付けるように設計された包括的なシステムが含まれます。
AI の誤った情報に対する TikTok の透かし戦略
この取り組みは、偽情報や誤情報に対処するためのTikTokの継続的な取り組みの一環として行われ、プラットフォーム上で共有されるコンテンツの完全性を強化している。 メディア作成における AI の使用が増える中、このような動きは、自然に作成されたコンテンツと AI の支援によって作成されたコンテンツとを明確に区別することを目指しています。 TikTok のウォーターマーク イニシアチブの展開により、プラットフォームは、有機的に作成されたコンテンツと AI テクノロジーを通じて強化または生成されたコンテンツを区別するための積極的な措置を講じています。
TikTokの現在のポリシーでは、プラットフォーム独自のAI効果を使用して生成されたコンテンツのラベル付けがすでに義務付けられている。 Content Credentials の導入は、この透明性をより幅広いメディアに拡大することを目的としています。 このようなウォーターマークを実装することで、TikTok はより多くの情報に基づいた視聴者を促進するだけでなく、コンテンツの出所に関するオープン性を重視する広範な業界トレンドにその実践を合わせることもできます。
より広範な業界の動き
コンテンツ制作における透明性の向上を目指す取り組みを進めているのはTikTokだけではない。 他のテクノロジー大手やソーシャル メディア プラットフォームも、AI によって生成されたコンテンツに明確にラベルを付けることの重要性を認識しています。 たとえば、Facebook と Instagram を所有する Meta は最近、アップロード プロセス中に、コンテンツ作成者が AI によって生成されたとみなされるすべてのビデオ、画像、音声に自動的にタグを付けると発表しました。
同様に、YouTube もクリエイター向けの要件を更新し、超リアルな描写や改変された現実世界の出来事を含む可能性のある AI 操作動画の開示を求めています。 DALL-E や ChatGPT などのツールで知られる OpenAI は、自社のシステムを使用して生成されたすべての画像に AI 識別データを組み込むことにも取り組んでいます。
業界の主要企業によるこうした共同の措置は、AI生成コンテンツに関連するリスク、特に誤った情報や現実的な虚偽を広める可能性を抑制するという共通の取り組みを強調するものであり、この懸念はAI生成の公人を模倣したロボコールなどの事件によってさらに増幅されている。
TikTokの戦略の今後を展望する
TikTok のウォーターマーキングへの取り組みは、有害な AI コンテンツとの戦いで優位に立つための広範な行動計画の一部です。 このプラットフォームは、透かしを拡張するだけでなく、AIツールを介して作成された写真やビデオに追加されるデータを強化する意向を表明しています。 これにより、コンテンツがダウンロードされ、TikTok の外部で共有された場合でも、コンテンツの出所と性質は透明のままになります。
TikTokによるこのアプローチでは、プロアクティブな検出モデルの改善、外部専門家との協議、AI生成の誤った情報の拡散に対する統一ソリューションの開発のための他のプラットフォームとのパートナーシップの促進への継続的な投資も見込まれる。
コンテンツ認証情報の実装により、TikTok はコンテンツ作成における AI の進歩によってもたらされる複雑さからエコシステムを保護するために重要な動きを行っています。 TikTok は、AI 生成コンテンツに透かしを入れることで、AI テクノロジーとユーザー生成コンテンツのますます交差するソーシャル メディア プラットフォームの処理方法に関する新しい標準を確立しています。 この取り組みは、視聴者の意識向上と教育をサポートするだけでなく、TikTok をデジタルコミュニケーションにおける次世代テクノロジーによってもたらされる課題の軽減に取り組む責任あるプレーヤーとして位置づけます。
注目の画像クレジット: Solen Feyissa / Unsplash
Source: TikTok のウォーターマークと AI の誤った情報との戦い