Meta は、Muse Image として知られる、画像生成モデルで作成された画像とビデオを識別するように設計された Web ベースの検出ツールを開発しています。このツールは、生成されたコンテンツ内に埋め込まれたコンテンツ シールと呼ばれる目に見えない透かしの存在を検証します。
Meta 氏によると、コンテンツ シールは、トリミング、圧縮、サイズ変更、スクリーンショットなどの画像操作に関係なく、そのまま残ります。同社は、このツールは、画像にコンテンツシールの透かしが入っているかどうかをユーザーが判断するための最初のメカニズムを提供すると述べた。
Muse Image が利用する透かしのアプローチは独自のものであり、Meta がリリースした以前のオープンソース バージョンとは異なります。 Meta の AI モデルの現在のバージョンでは、画像にロゴが含まれていた以前のモデルとは異なり、目に見える透かしを採用していません。
現在、検出機能は Muse Image で作成または編集された画像に限定されています。 Meta は、将来的に AI で生成および編集されたビデオにも Content Seal ウォーターマークを拡張する予定です。同社は、Muse Video と呼ばれる別のビデオ生成モデルも開発中であり、間もなく発売される予定です。
この検出ツールのテストでは、編集された画像と完全に AI によって生成された画像の両方の透かしを識別できることが確認されました。陽性の検出結果は、画像が Meta AI アプリまたは meta.ai を使用して生成されたことを示し、陰性の結果は、画像が Meta AI で処理された可能性が低いことを示します。ただし、検出機能は Meta AI アプリ自体には統合されていません。アプリのアシスタントは、特定の画像がメタAIによって作成されたかどうかを判断できないことを認めた。
Meta は、AI が生成したコンテンツに対する電子透かしの適用が一貫性を欠いているとして厳しい監視にさらされています。監視委員会は今年初め、AIが生成した素材のラベル表示における同社の慣行について懸念を表明した。 Content Seal は、SynthID や C2PA Content Credentials などの確立された透かし手法と互換性がありません。
最近のテストでは、検出ツールは、メタの AI モデルの以前のバージョンで作成または編集された画像を識別できませんでした。さらに、ツールのユーザーはレート制限に遭遇し、ID チェックの 1 日のしきい値に達するとアラートを受け取ります。
