Google は、AI 検出システム SynthID を Chrome と Search に拡張し、AI によって生成された画像と AI によって編集された画像を識別する機能を強化しています。 Google の AI ツールを使用して作成または変更されたコンテンツに目に見えないメタデータを追加する SynthID は、以前に Gemini アプリに統合されていました。
最新のアップデートにより、ユーザーはさまざまな方法で画像の出所を評価できるようになります。 Android 上の Google の Circle to Search 機能は AI コンテンツにフラグを立てるようになり、Google Lens と Chrome バージョンの Gemini は特定の画像が AI によって生成されたかどうかに関するクエリに応答できるようになります。 Googleによると、これらのツールは、たとえば画像がPixelスマートフォンで撮影され、Googleフォトで編集されたかどうかを示す詳細な出所情報を提供するという。
ただし、Google は、AI によって変更されたすべての画像、特に他の AI プラットフォームで作成された画像について、必ずしも詳細な情報を提供するとは限らないことを指摘しました。同社は、Pixel 10 のネイティブ カメラ アプリにコンテンツ認証情報を追加し、この機能を Pixel 8 および Pixel 9 モデルに拡張しています。これと並行して、OpenAI、Kakao、および Celebrities は、自社の AI 生成コンテンツに SynthID テクノロジーを統合しています。 OpenAI は、ChatGPT、Codex、または OpenAI API を使用して生成された画像からその統合が開始されることを確認しました。
Google はコンテンツ認証情報のサポートも拡大しており、本日リリースされる Gemini アプリのサポートも開始されます。 Chrome と検索への統合は今後数か月以内に行われる予定です。同社は、完全に確実な AI 透かしシステムはないことを認め、検出ツールや透かしを回避する方法はあると主張しました。
「AIが生成したコンテンツがより説得力を持ち、遍在するようになるにつれて、人々が自分が見ているものの信頼性を簡単に再確認できるようにすることは、有益な第一歩である」とGoogleは述べた。
