Appleは、児童ポルノとの戦いをさらに進めることを決定しました。 同社は、疑わしいコンテンツを検索するユーザーの写真を追跡するための新しいスキャンおよび暗号化システムを作成しました。 機械学習に基づく新機能は、現時点では一部の国では導入されておらず、米国で最初にテストされる予定ですが、サイバーセキュリティの専門家の間ですでに疑惑が高まっています。
同社はこのようにして、木曜日にジョンズホプキンス大学の暗号学教授であるマシューグリーンがツイッターで進めた情報を確認した。 今後、iPhoneユーザーは、iMessageで送信しようとしている画像のいずれかが未成年者の性的虐待を植え付けている疑いがある場合、アラートを受け取ります。
「メッセージは、デバイスの機械学習を使用して画像の添付ファイルを分析し、写真が性的に露骨であるかどうかを判断します。 この機能は、Appleがメッセージにアクセスできないように設計されています」とAppleは、このシステムがどのように機能するかを概説したレポートで詳しく説明していますが、これは思ったほど新しいものではありません。
それはどのように機能しますか？
このテクノロジーはiOS、macOS、WatchOS、iMessagesで使用され、ユーザーが共有しようとしているすべての画像が分析されます。 これを行うために、彼らはNeuralHashとして知られる機械学習アルゴリズムに頼ってきました。
ハッシュテクノロジーは、画像を表示したりファイルを開いたりすることなく画像を分析します。 各写真を、デジタル指紋のようにその内容を説明する一意の番号に変換しますが、ユーザーが理解することは不可能です。
そのコードを会社が疑わしいコンテンツとして確立したコードと比較した後、あるコードと別のコードの間で十分な一致が検出されると、画像をぼかして共有をブロックするアラートが作成されます。
Appleは、子供が疑わしいと分類されたコンテンツを送信したい場合に、親がアラートを受信できるようにします。 人間のチームが画像を確認できるように、当局はこれらの試合について警告を受けることもできます。
マシューグリーン 彼のTwitterアカウントで、このテクノロジーはあまり正確ではないため、誤検知を引き起こす可能性があると説明しています。 サイズ変更や圧縮などを行った場合でも、不良画像のように見える画像を見つけるように設計されています。」 同社はこの主張を否定しています。「システムがアカウントに誤ってフラグを立てるリスクは非常に低いです。 さらに、AppleはNCMECに対して作成されたすべてのレポートを手動で確認して、レポートの正確性を確認します。」
プライバシーリスク
犯罪者、小児性愛者、テロリストを追跡するための重要なツールとなる可能性があるものは、同時に、無実の市民のプライバシーに対する脅威であり、全体主義体制にとって非常に有用な武器であると、サイバーセキュリティの専門家は非難します。
この新しいツールの問題は、むしろそれらの類似点をどこで探すかということです。 デバイスに保存され、iCloudに保存された写真は、Appleサーバーに暗号化されて保存されますが、専門家が説明するように、これらのコードを復号化するための鍵はAppleの所有物です。
エンドツーエンド暗号化（E2E）を備えているのは、WhatsAppのように、あるデバイスから別のデバイスに保護されているiMessageの暗号化だけです。これにより、ユーザーだけがそれらを見ることができます。 これは、理論的には、Appleの新しいシステムが登場する場所です。
このコンテンツ分析はそれほど新しいものではありません。 Facebookは、ソーシャルネットワーク（FacebookとInstagram）で投稿のヌードをスキャンします。 Appleはまた、ハッシュシステムを使用して、電子メールを介して送信された児童虐待の画像、Gmailやその他のクラウド電子メールプロバイダーと同様のシステムを検索しました。これらはエンドツーエンドの暗号化によって保護されていません。
グリーンは、この技術が厄介なメッセージを送ると信じています。 「Appleの長期計画に関係なく、彼らは非常に明確なシグナルを送ってきました。 （…）禁止されているコンテンツについてユーザーの電話をスキャンするシステムを構築するのは安全です」と彼はTwitterのプロフィールで説明しています。
ただし、すべてのサイバーセキュリティ専門家がそれほど批判的であるとは限りません。 カリフォルニア大学バークレー校の国際計算機科学研究所の上級研究員であるニコラス・ウィーバーは、Appleの新しいメッセージ機能が「非常に良いアイデアのようだ」とマザーボードに保証しました。 「全体として、Appleのアプローチは効果的でプライバシーを最大化するようによく考えられているようです」と彼は付け加えます。
