生成型人工知能の台頭は驚くべき進歩をもたらしたが、同時にオンライン上でより暗い結果ももたらしている。こうした問題の 1 つが、顔や体の複製、いわゆるディープフェイクである。ディープフェイクは、個人に大きな危害を与える可能性のある合成ヌード画像を簡単に作成できる。同意なくプライベートな写真が共有された個人は、これらの画像をインターネットから削除することが困難になっている。Microsoft は、非常に必要とされているサポートを提供できる解決策で介入した。
マイクロソフトは、ディープフェイクの被害者がBing検索エンジンからこれらの画像を削除できる新しいツールを導入することで、重要な進歩を遂げました。この最近の取り組みは、実際の人物が登場しているように見えるインターネット上の偽ポルノコンテンツの急増に対処することを目的としており、この現象は人工知能の進歩によって悪化しています。
マイクロソフトのディープフェイクアダルトコンテンツの拡散を阻止
マイクロソフトとStopNCIIとのパートナーシップ（同意のない親密な画像をやめる）は、「復讐」やディープフェイクヌード画像との戦いにおいて重要な協力関係を象徴しています。StopNCII は、被害者が自分のデバイス上で、本物か AI 生成かを問わず、露骨な画像のデジタル フィンガープリントまたは「ハッシュ」を作成できるようにする組織です。このフィンガープリントは、さまざまなプラットフォーム上で問題となる画像を追跡して削除するために使用されます。
Microsoft の Bing もこの取り組みに参加し、Facebook、Instagram、TikTok、Reddit などの他の主要テクノロジー プラットフォームに加わりました。これは、これまで直接報告ツールに依存していた Microsoft の包括的なセキュリティ対策に重要な追加機能です。直接報告オプションでは、ユーザーが有害なコンテンツにフラグを立てることはできましたが、不快なコンテンツの量に対応するには不十分でした。StopNCII のデジタル フィンガープリンティング テクノロジーを統合することで、Microsoft は、これらの画像が検索結果に表示されるのをより効果的かつ積極的に防止し、被害者がデジタル資産を再び管理できるようにすることを目指しています。
ディープフェイクに対する継続的な闘い
AIが生成したヌード画像の問題は、特に米国のような国々で、広範囲にわたる影響を伴い、懸念が高まっている。 アメリカ合衆国 AIディープフェイクポルノを特に対象とした連邦法は存在しない。その結果、 わずか23州 対処するための法律を制定する 同意のないディープフェイク多くの地域で被害者は適切な法的救済手段を得られずにいる。マイクロソフトと StopNCII の提携、および Bing の新しいツールは、法的保護が一貫していない環境において、いくらかの救済策となるかもしれない。
しかし、問題は 大人に限らない高校生も「脱ぐこれは、偽のヌード画像を作成するサイトを阻止するための新たな取り組みであり、より強力な法律とより包括的な保護の必要性を証明しています。StopNCII のツールは現在、18 歳以上の個人のみを対象としています。しかし、これらの有害なテクノロジーのより広範な影響は明らかであり、若いユーザーを保護するためのより強力な対策の必要性は避けられません。
マイクロソフトのデジタル安全性への取り組み
マイクロソフトは、許可なく私的な画像を共有することの有害な影響について長い間認識しており、この問題に対処するための措置を講じてきました。2015 年にマイクロソフトは、ユーザーが同意のない私的な画像を報告して削除するのを支援することを目的とした集中報告ツールを立ち上げました。しかし、合成画像の背景にあるテクノロジーが進化するにつれて、マイクロソフトのアプローチも進化しました。
同社はまた、AI 生成コンテンツの被害者を保護するための法律の近代化を提唱し、女性や子供をオンライン虐待から保護することを目的とした政策提案を発表しました。さらに、マイクロソフトは、Bing、Xbox、その他の消費者向けサービスを含む自社プラットフォーム上でのそのようなコンテンツの作成と配信を防止するために、社内ポリシーの改善を続けています。
Microsoft の新しいツールは大きな前進ですが、ディープフェイクとの戦いは終わっていません。新しいテクノロジーは新しい課題をもたらし、私たちは迅速に対応する必要があります。Microsoft は、ディープフェイクと戦うために StopNCII やその他のグループと協力しています。しかし、皆さんの協力が必要です。
マイクロソフトは、自分のプライベートな画像が共有されることを心配している人たちに、StopNCII のツールを使ってマイクロソフトに違反を報告するよう勧めています。これにより、こうした画像の拡散を阻止し、被害者にある程度の制御を与えることができます。テクノロジーは新しい形の虐待を可能にしましたが、同時に反撃の新しい方法も提供しています。マイクロソフトの最新の動きは、この継続的な闘いを示しています。
注目の画像クレジット: Johannes Krupinski / Unsplash
Source: マイクロソフト、ディープフェイクアダルト動画対策に新たな動き
