法執行機関の専門家と政策立案者は、9月12日に招集して、SignalやWhatsAppなどのプラットフォームを含むテクノロジー企業に、送信前に暗号化されたメッセージをスキャンする提案について審議する予定です。この会議は、10月14日までに「チャットコントロール」として知られる提案に関する計画された投票に先行しています。これは、EU評議会のデンマーク大統領職が主導するイニシアチブです。 「チャット制御」提案は、暗号化された通信サービス内の潜在的な児童虐待資料を特定するために、携帯電話とコンピューターの大量スキャンを提唱しています。しかし、このイニシアチブは、セキュリティの専門家とプライバシー擁護者からの重要な反対を引き起こしました。 9月9日、500人を超える暗号家とセキュリティ研究者は、提案が技術的に実行不可能であり、欧州市民のセキュリティとプライバシーを「完全に損なう」ことを警告する公開書簡を発行しました。彼らは、そのような措置がハッカーや敵対的な国民国家によって搾取される可能性のある脆弱性を生み出すと主張している。広く使用されている暗号化されたメッセージングサービスであるWhatsAppは、EUの提案案に関する懸念も表明しています。 WhatsAppのスポークスマンは、提案がエンドツーエンドの暗号化を妥協し、それによりユーザーのプライバシー、自由、デジタルセキュリティを危険にさらすと述べました。欧州委員会は当初、2022年に潜在的な児童虐待コンテンツの電子メールとメッセージをスキャンすることをハイテク企業に義務付けたことを提案しました。しかし、これらの計画は、提案がEU市民のセキュリティとプライバシーを損なうことを恐れている少数の加盟国からの反対のために停止しました。 2025年7月、デンマークの大統領職は、暗号化されたコミュニケーションのセキュリティと潜在的に違法なコンテンツを特定する必要性とのバランスをとることを目的とした妥協を導入しました。この妥協点は、提案された規制は暗号化を禁止、弱体化、または回避すると解釈されるべきではないと主張し、テクノロジー企業はエンドツーエンドの暗号化サービスの提供を継続することを可能にします。ただし、妥協点では、テクノロジー企業がデバイスに「審査されたテクノロジー」を実装して、暗号化と伝送前の既知の児童虐待の内容に潜在的に関連する画像、ビデオ、またはURLのメッセージをスキャンする必要があります。また、これらの企業は、人工知能（AI）および機械学習アルゴリズムを展開して、以前は未知の乱用画像を検出する必要があります。 9月10日の時点で、15の加盟国がデンマークの提案を支持し、6人は未定であり、6人が反対しました。ベルギー、ポーランド、フィンランド、チェコ共和国を含む対立する州は、市民のコミュニケーションの大規模な監視について懸念を表明しています。サポーターにはフランス、イタリア、スペイン、スウェーデンが含まれますが、ドイツは未定です。各加盟国の投票権は、その代表者の数に比例します。デンマークの妥協契約は、暗号化に関する特定の要件の概要を示しています。
- 送信前に乱用資料を検出するには、エンドツーエンドの暗号化を使用した公開されているメッセージングサービスが必要です。
- プロバイダーは、エンドツーエンドの暗号化を使用してサービスを自由に提供できるようにし、データを復号化したり、エンドツーエンドの暗号化されたデータへのアクセスを作成したりする義務を負わないでください。
- 暗号化されたサービスのユーザーは、監視されている画像、ビデオ、およびURLを監視することに同意するように求められます。
- 同意しないユーザーは、画像、ビデオ、またはURLなしでメッセージを送信できる場合があります。
- エンドツーエンドの暗号化されたサービスの検出技術は、EUセンターによって認定およびテストされ、それらの使用が暗号化を弱めないことを確認します。
- EU委員会は、検出技術を承認する権限を持っています。
- 検出サービスのプロバイダーは、誤検知と誤ったネガを減らすために人間の監視をする必要があります。
- 検出技術は、「そのようなリスクを軽減するために効果的な措置を講じることができないサイバーセキュリティリスクを導入する」ことはできません。
提案の反対者は、「チャットコントロール」は、数億人のヨーロッパ人に「疑いのない「大量監視」を効果的に導入すると主張しています。暗号化師やセキュリティ研究者からの公開書簡は、クライアント側のスキャンとしても知られるデバイスの検出が、子どもの保護を改善することなく、エンドツーエンド暗号化の保護を本質的に損なうことを警告しています。彼らは、検出メカニズムがハッカーや敵対的な国民国家の主要なターゲットになると主張しており、財政的利益や政治的利益など、他のタイプのデータをターゲットにするように再構成できると主張しています。これにより、政治家、ジャーナリスト、人権労働者、EU公務員、法執行官、一般市民が使用する暗号化されたメッセージングアプリのセキュリティが損なわれます。提案は、エンドツーエンドの暗号化の原則に「明確に違反」し、その保護を弱め、公衆のプライバシーの権利を脅かしています。科学者は、民主主義と国家安全保障に対する潜在的に深刻な結果を警告しています。彼らはまた、スキャンテクノロジーが、反体制派や敵を監視したり、コミュニケーションを検閲したりして、監視、管理、検閲のための前例のない能力を生み出すために、より少ない民主的な政権によって再利用される可能性があると主張しています。デンマークの提案は、疑わしいと誤って特定された画像を送信するために誤って調査されている多数の罪のない人々につながる可能性があります。研究者は、既存の検出器が容認できないほど高い偽陽性および偽陰性率をもたらすと警告し、大規模な検出キャンペーンには適さない。彼らはまた、多数の間違いを犯さずに違法な画像を確実に識別できる既知の機械学習アルゴリズムはないと主張している。ドイツの暗号化された電子メールプロバイダーであるTuta Mailは、バックドアを暗号化されたメッセージングサービスに導入することにより、ユーザーのプライバシーを妥協するのではなく、EUに対して法的措置を講じると述べています。 CEOのMatthias Pfauは、この提案はヨーロッパのテクノロジーに対する信頼を損ない、外国の技術大手にユーザーを駆り立てると考えています。 Session Technology Foundationの社長であるAlexander Lintonは、新しいセキュリティリスクを作成せずにスキャンを導入することは不可能であると主張しています。彼は、利用可能なテクノロジーのどれも、容認できないリスクを導入しないという基準を満たしていないと述べています。欧州政府が使用する安全な通信プラットフォームであるElementのCEOであるMatthew Hodgsonは、提案された「チャット管理」規制には基本的に欠陥があり、4億5,000万人の市民のプライバシーとデータが危険にさらされると考えています。彼は、合法的な傍受のためにバックドアを導入することで暗号化を弱体化させることは、悪用される脆弱性を意図的に導入していると主張します。 Hodgsonは、米国の公衆電話ネットワークで法執行機関の背景を使用して、コールレコードと米国市民の暗号化されていないコミュニケーションにアクセスするために、Salt Typhoonと呼ばれる長年の中国のハッキング作業を参照しました。彼は、結果として米国がまだエンドツーエンドの暗号化されたシステムを市民に促していると指摘した。シグナルは昨年、プライバシー保証を損なうのではなく、欧州連合からメッセージングサービスを引き出すと警告した。インターネット協会の政府問題と擁護のディレクターであるCallum Vogeは、クライアント側のスキャンがデバイスのデバイスでデータベースをリバースエンジニアリングし、破損したスキャンデータベースの機会を生み出すと述べました。彼は、暗号化を壊すのではなく、あなたが手紙を書くときにあなたの肩越しに読んでいる人にクライアント側のスキャンを例えました。 Vogeは、AIスキャンが虐待を特定するのに99.5％効果的であったとしても、毎日数十億の誤った識別につながり、システムを圧倒し、罪のない人々が誤って違法な児童虐待資料を共有していると誤ってラベル付けされると述べました。科学者は、「技術的な修正」に頼るのではなく、政府が教育、ホットライン、および虐待に取り組むためのその他の実績のある技術を報告することに投資すべきだと主張しています。 Vogeは、政策立案者は、オープンで信頼できるインターネットを育てながら、子どもを保護するアプローチを優先する必要があることを示唆しています。これには、裁判所が認可された調査、メタデータ分析、国境を越えた協力、被害者への支援、予防、メディアリテラシートレーニングなどのターゲットアプローチのリソースの増加が含まれます。 Appleは以前、主要な科学者がサプライヤーの試みが犯罪に対して効果的でないか、監視から保護しないことを発表した後、iPhoneで児童虐待を検出するためにクライアント側のスキャンを導入する計画を放棄していました。
