AI関連の児童搾取に対する懸念が高まる中、OpenAIは、米国の児童保護の取り組みを強化するため、児童安全ブループリントを発表した。このブループリントは、AI を活用した児童搾取の検出、報告、調査を改善することを目的としています。
Internet Watch Foundation (IWF) は、2025 年上半期に AI によって生成された児童性的虐待コンテンツが 8,000 件を超え、前年比 14% 増加したと報告しました。犯罪者は、金融セクストーションのために子供の露骨な偽の画像を作成したり、説得力のある身づくろいのメッセージを生成したりするために、AI ツールをますます使用しています。
この取り組みは、特に AI チャットボットとのやり取り後に若者が自殺で死亡した事件を受けて、政策立案者、教育者、子供の安全擁護活動家からの厳しい監視に対応するものです。 11月、ソーシャルメディア被害者法センターとテック・ジャスティス・ロー・プロジェクトは、カリフォルニア州でOpenAIに対して7件の訴訟を起こした。これらの訴訟はGPT-4oの時期尚早な放出を主張し、その心理操作的な性質が不法死亡や深刻な精神衛生上の危機の一因となったと主張している。
子どもの安全に関するブループリントは、国立行方不明児童搾取センター（NCMEC）および司法長官同盟と共同で開発され、ノースカロライナ州のジェフ・ジャクソン司法長官やユタ州のデレク・ブラウン司法長官などの当局者からのフィードバックを取り入れた。このブループリントでは、AI によって生成された不正行為マテリアルを考慮した法律の更新、法執行機関への報告メカニズムの強化、AI システムへの予防的保護手段の埋め込みという 3 つの主要分野に重点を置いています。
OpenAI は、潜在的な脅威をより効果的に検出し、実用的な情報を調査員に確実に伝達することが目標であると述べています。この青写真は、18 歳未満のユーザーとのやり取りに関するガイドラインを含む、これまでの取り組みに基づいて構築されており、不適切なコンテンツの生成や、危険な行動を介護者に隠すのに役立つ可能性のあるアドバイスの提供を禁止しています。 OpenAI はまた、インドのティーンエイジャー向けの安全設計図もリリースしました。
