OpenAI は、未成年者を識別するために ChatGPT に「年齢予測」機能を導入し、会話に対する適切なコンテンツ制限を可能にしました。 AI が若者に与える影響に関する批判が高まっています。 OpenAI の ChatGPT は 10 代の自殺に関連しているとされています。このチャットボットは、若いユーザーとの性的な話題を扱ったことでも批判にさらされた。具体的には、同社は4月に、チャットボットが18歳未満のユーザー向けにエロティカを生成できるバグを認めた。 OpenAI は未成年ユーザーの問題に取り組んできました。新しい「年齢予測」機能は、既存の保護を補完します。この機能は、火曜日の同社ブログ投稿で詳しく説明されているように、AI アルゴリズムを利用してユーザー アカウントからの「行動およびアカウント レベルのシグナル」を分析し、若いユーザーを検出します。これらの「シグナル」には、ユーザーの指定された年齢、アカウントの寿命、および通常のアクティブ時間が含まれます。 OpenAI は現在、コンテンツ フィルターを使用して、性的コンテンツ、暴力、および 18 歳未満のユーザーにとって問題があると思われるその他の主題に関する議論を除外しています。年齢予測メカニズムによってアカウントが未成年者のものであると識別された場合、これらのフィルターが自動的に適用されます。誤って未成年者として分類されたユーザーは、アカウントのステータスを元に戻すことができます。年齢確認のために、OpenAI の ID 検証パートナーである ペルソナ に自撮り写真を送信する場合があります。
注目の画像クレジット
