メタは、子どもの安全に関するAIチャットボットガイドラインを更新します

メタは、デリケートなトピックに関する一連の公開エラーに従って、子どもの性的搾取にもっと効果的に対処するために、新しいガイドラインで人工知能チャットボットをトレーニングしています。文書を取得したBusiness Insiderのレポートによると、AIをトレーニングする請負業者のガイドラインは最近更新され、より厳しい安全対策が実装されています。更新されたルールでは、子どもの性的虐待を「有効、奨励、または支持する」コンテンツが明示的に禁止されていると述べています。また、ガイドラインは、ユーザーがマイナーである場合、またはユーザーがマイナーとしてAIをロールプレイに要求した場合、ロマンチックなロールプレイを禁止しています。さらに、ユーザーがマイナーである場合、チャットボットは親密さについてアドバイスをすることを禁じられています。これらのガードレールは、未成年者のユーザーを含むますます多くの人々として紹介されており、AIの仲間とロールプレイを実験しています。政策変更は、精査されていた以前の規則に対処しています。ロイターによる8月の報告によると、メタの以前のAIポリシーは子供との示唆的な行動を許可したことが明らかになりました。報告書は、チャットボットが「ロマンチックまたは官能的な会話に子供を引き付けることが許可されていることを指定しました。その報告の数週間後、メタのスポークスマンであるステファニー・オトウェイは、同社のAIチャットボットが「自傷、自殺、障害、または潜在的に不適切なロマンチックな会話で10代のユーザーと関与しなくなるように訓練されている」とTechCrunchに語った。これは以前のポリシーからのシフトであり、チャットボットが「適切」とみなされたときにこれらのトピックに関与することができました。 Business Insiderレポートで詳述されているように、新しいガイドラインは、コンテンツが性的な方法で未成年者を「説明または議論する」ことを受け入れられないようにします。未成年者は現在、チャットボットで「ロマンチックなロールプレイ、浮気、またはロマンチックな表現の表現」に従事することを妨げられています。彼らはまた、「潜在的にロマンチックな、または潜在的に潜在的に直接的な物理的なコンテンツが、他の人との腕をつないだり、抱きしめたり、誰かの周りに腕を置いたりするなど、他の人との潜在的な物理的コンテンツ」についてアドバイスを求めることはできません。ただし、ガイドラインでは、トレーニング目的でいくつかの許容可能なユースケースの概要を説明しています。これらには、「子供と大人の間の関係の形成」、「子供の性的虐待」、「子どもの性化のトピック」について議論することが含まれます。トレーニングの議論のためのその他の承認されたトピックは、「子どもが関与する性的資料の勧誘、創造、または獲得」と、「わいせつ材料の使用または生産における子供の関与、または学術、教育、または臨床的目的での性的サービスにおける子供の雇用」です。ガイドラインは、「議論」という用語を「視覚化なしで情報を提供する」と定義しています。この区別は、メタのチャットボットが虐待のような被験者について話すことが許可されていることを意味しますが、現在ではそれを説明、有効化、または奨励することが制限されています。ロマンス関連のロールプレイにAIを使用する未成年者の例外は残っています。このタイプの相互作用は、「文学や架空の物語（例えば、ロミオとジュリエットのスタイルの物語）として提示されている場合にのみ許可されます。AIとユーザーは物語のキャラクターではない」。子どもの安全に関連する課題に直面しているAI開発者はメタだけではありません。 ChatGptで自殺した後に自殺で亡くなったティーンエイジャーの両親は、最近、不法な死のためにOpenaiを訴えました。これに応じて、Openaiは、更新されたGPT-5モデルに追加の安全対策と行動プロンプトを組み込むと発表しました。他の業界の開発では、人類がチャットボットを更新して、有害または虐待的な会話を終わらせることができるようにし、Charition.AIは今年初めに親の監督機能を導入しました。 4月、Mashableの親会社であるZiff Davisは、Openaiに対して訴訟を起こしました。この訴訟は、同社がAIシステムのトレーニングと運用においてZiff Davisの著作権を侵害したと主張しています。

Source: メタは、子どもの安全に関するAIチャットボットガイドラインを更新します