Openai CEOのSam Altmanは、18歳未満のChatGPTユーザーの安全性を高めることを目的とした新しいユーザーポリシーを発表し、AIチャットボットが未成年者とどのように相互作用するかに大きな変化を示しました。この変更は、10代の若者のプライバシーと自由に対する安全性を優先し、テクノロジーの強力でありながら潜在的に有害な性質をOpenaiが認識していることを反映しています。 「私たちは、10代のプライバシーと自由に先立って安全性を優先します」とAltmanの投稿は述べています。 「これは新しい強力なテクノロジーであり、未成年者には大きな保護が必要だと考えています。」ポリシーは、性的トピックや自傷行為を含む会話に関するターゲットを絞った制限を導入します。具体的には、ChatGptは未成年者との「軽薄な話」を避けるために訓練され、強化されたGuardrailsは自殺の議論を支配します。未成年者が自殺シナリオに従事している場合、システムは両親に通知しようとします。厳しい事例については、地元の警察当局が関与する可能性があります。これらの措置は、現実世界の悲劇と継続的な法的課題によって促されます。 Openaiは現在、ChatGptとの数ヶ月のやり取りの後に自殺で亡くなったティーンエイジャーであるアダム・レインの両親によって提起された不法な死者訴訟に対して防御しています。同様の訴訟では、もう1つの人気のある消費者チャットボットであるAaiを対象としています。専門家と支持者は、特にチャットボットが進化してより長く没入型の会話をサポートし、脆弱な若者に特定の危険をもたらすため、AI主導の妄想のリスクについて警告を発しました。コンテンツセーフガードに加えて、未成年者のアカウントを登録する親は、「ブラックアウト時間」を実装する機能を獲得し、指定された時間中にアクセスを制限します。これは、以前のバージョンでは機能がありません。この親の制御ツールは、より健康的な使用パターンを促進することを目的としています。この発表は、同じ日に予定され、8月にジョシュ・ホーリー上院議員（R-MO）によって開始された「AIチャットボットの害を調べる」というタイトルの上院司法委員会と一致します。アダム・レインの父親は証言する目撃者の一人であり、関係する個人的な利害関係を強調しています。年齢検証を実装すると、Openaiがコンパニオンブログ投稿で概説したように、技術的なハードルが提示されます。同社は、ユーザー年齢を正確に決定するための長期システムを開発していますが、あいまいな状況では、より厳格なルールを適用することで注意を払う側に誤りがあります。信頼性については、Openaiは10代のアカウントを親の既存のアカウントにリンクすることを推奨し、苦痛が検出された場合にガーディアンに直接アラートを可能にします。 Altmanは、これらの若者の保護をOpenaiのコアバリューとバランスさせ、ユーザーのプライバシーに対するコミットメントと大人の幅広い自由を再確認しました。 「私たちは、これらの原則が対立していることを認識しています」と彼は述べました。このアプローチでは、精査が拡大している中で倫理的な綱渡りAI開発者がナビゲートすることを強調しています。 AIのメンタルヘルスの影響が上昇することを認識するにつれて、リソースは依然として重要です。即時のサポートについては、1-800-273-8255のNational Suicide Prevention Lifelineに連絡し、741-741の本拠地であるか、988をダイヤルします。危機テキストラインは24時間支援を提供し、国際自殺予防協会のデータベースを通じて国際的な支援を提供します。
Source: Openaiは、ChatGpt未成年者の安全ポリシーを発表します
