デンマークは、ディープフェイクの上昇する脅威に対抗するために、デジタル著作権法を改正するための新しい法律を提案しています。提案された修正は、AIが生成されたディープフェイクの有害な影響から、デジタルアイデンティティ、特に外観と声を超える個人の権利を保護することを目的としています。
人工知能（AI）を利用して現実的な偽の画像、ビデオ、オーディオ録音を作成するディープフェイクは、偽のニュースを広め、金銭的詐欺を可能にし、サイバー犯罪を促進するためにますます使用されています。これらの攻撃により大きな財政的損失が発生し、デンマーク政府が行動を起こすように促しました。
デンマーク政府は、秋に修正を提出するつもりであり、ディープフェイクの脅威に対処する緊急性を強調し、クロスパーティの支持を予想しています。この修正は、ヨーロッパでこの種の最初のものであると考えられています。
「Deepfake」という用語は、「Deep Learning」と「Fake」の組み合わせに由来し、採用されたAIテクノロジーと結果の誤ったコンテンツの両方を指します。ディープフェイクは、既存のコンテンツを変更するか、まったく新しいコンテンツを生成し、重大な害を引き起こす可能性があります。たとえば、映画シーンに重ね合わない顔は、一見無害ではありますが、個人のイメージに対する権利を侵害する可能性があります。 2023年、米国の俳優は、画像のAI使用に対する同意を確保するためにストライキを行い、その結果、俳優の画像の将来のAI使用に対する同意を得るという業界のコミットメントが生まれました。
ディープフェイクは、偽のニュースを広める可能性のために大きな脅威をもたらします。例には、元米国大統領のジョー・バイデン大統領とウクライナ大統領のヴォルディ・ゼレンスキーのディープフェイクが含まれます。 apemble.aiの研究は、金融詐欺とサイバー犯罪もディープフェイク攻撃の重要な成長分野であることを示しています。対象となる人の41％は公人ですが、34％は個人、主に女性と子供、18％が組織です。
ディープフェイク攻撃の注目すべき例には、英国のエンジニアリング会社であるArupがDeepfake詐欺で2,500万ドルを失った場合が含まれます。犯罪者は、上級マネージャーのAI生成クローンを使用して、財務従業員に資金を譲渡するよう説得しました。さらに、CEO Benedetto VignaのAIに生成された声を使用したFerrariでの詐欺の試みは、従業員が実際のCEOだけが答えることができる質問をしたときに狭く回避されました。 BBCジャーナリストは、自分の声の合成バージョンを使用して、銀行の音声識別システムをバイパスすることもできました。
2025年第2四半期のAIのDeepfake Security Reportは、ディープファーク攻撃の大幅な増加を明らかにしました。同社は、2025年の第2四半期に487件のディープファーク攻撃を公開し、前四半期から41％増加し、前年比で300％を超えたと報告しました。 Deepfake Scamsからの直接的な財政的損失は3億5,000万ドル近くに達し、6か月ごとに攻撃が2倍になりました。
somple.aiによると、ディープファーク詐欺は主に技術的に進歩した地域に集中している世界的な問題であり、新興市場がますます影響を受けています。米国は報告された事件をリードしていますが、ディープファーケースもアジア太平洋とヨーロッパ全体で広まっており、アフリカで急速に成長しています。
ディープフェイクの脅威の増加に対応して、政策立案者はさまざまな措置を実施しています。米国では、Take it Down Actでは、48時間以内に有害なディープフェイクを削除する必要があり、その配布に対して連邦刑事罰を課します。公開ウェブサイトとモバイルアプリは、レポートおよびテイクダウン手順を確立することに義務付けられています。テネシー州、ルイジアナ州、フロリダ州の州議会議員も、ディープフェイク法を可決しました。
ヨーロッパでは、2024年に施行された欧州連合のデジタルサービス法（DSA）が、オンラインで違法で有害な活動を防止し、偽情報の広がりを防ぐことを目指しています。オンラインサービスプロバイダーはEUの精査を受けており、コンプライアンス違反に関するいくつかの正式な調査がすでに進行中です。英国は、2025年初頭にオンライン安全法で同様のアプローチを採用しました。
検討中のデンマークの修正により、ディープファークのコンテンツの影響を受けた個人がその除去を要求することができ、アーティストは自分のイメージの不正使用に対する補償を要求することができます。この権利は、アーティストの死を超えて50年間延長されます。 MetaやXなどのオンラインプラットフォームは、修正された請求書が提案されているように可決された場合、かなりの罰金に直面する可能性があります。法案は補償または刑事告発を直接規定していませんが、デンマークの法律に基づく損害を求めるための法的基盤を確立するでしょう。
デンマークは欧州連合評議会の大統領職を務めているため、欧州民主主義のシールドなどのイニシアチブを促進するメディアと文化を欧州民主主義の中心にすることにコミットしています。国内の著作権法の改正は、ブリュッセルとより広いEUの両方に強力な政治的シグナルを送ることが期待されています。
World Economic Forumのデジタル安全に関するグローバル連合は、ディープフェイクを含む有害なコンテンツに対処し、オンライン安全規制におけるベストプラクティスの交換を促進し、デジタルメディアリテラシーを改善するための努力をサポートすることを目的としています。
世界経済フォーラムの第4産業革命センター（C4IR）は、AIガバナンスアライアンスを開始し、生成AIを取り巻く不確実性と堅牢なAIガバナンスフレームワークの必要性に対処しました。アライアンスは、業界のリーダー、政府、学術機関、市民社会組織を団結させ、透明で包括的なAIシステムの責任あるグローバルな設計とリリースを擁護します。これには、AI Transformation of Industriesイニシアチブ内のワークストリーム、エネルギーおよび材料センター、高度な製造サプライチェーンセンター、サイバーセキュリティセンター、自然気候センター、グローバル産業チームと協力して含まれます。
