大手 AI チャットボット プラットフォームである Character.AI は、18 歳未満のユーザーに対する無制限のチャットボット アクセスを 11 月 25 日までに終了する計画を発表しました。同社は、まず 10 代のユーザーの 1 日のやり取りを 2 時間に制限し、その後アクセスが完全に停止するまで徐々にその時間を短縮する予定です。この制限を実装するために、Character.AI は、ペルソナなどのサードパーティ サービスと並行して社内の年齢確認ツールを導入します。これらの方法が不十分であることが証明された場合、プラットフォームはユーザーが 18 歳以上であることを確認するために顔認識と政府発行の ID チェックに頼る可能性があります。この決定は、10 代の若者の間での AI との相互作用に関連するメンタルヘルスのリスクを軽減するための進行中の取り組みに沿って、規制当局と保護者からの意見に基づいて行われました。 Character.AI はこれまでに、使用状況を監視するための保護者向けの洞察ツール、フィルターされたキャラクター オプション、ロマンチックな会話の制限、プラットフォームでの滞在時間の通知などの保護手段を導入しました。これらの措置は、18 歳未満のユーザーベースの減少につながりました。今後、Character.AI は、十代の若者向けの専用エクスペリエンスを開始し、キャラクターをフィーチャーしたビデオ、ストーリー、ストリームを制作できるようにする予定です。この新機能では、無制限のチャット機能が除外されます。

Source: Character.AI、18歳未満のユーザーによるチャットボットへのアクセスを終了へ

  Apple Freeform：iPhone、iPad、Macで共同作業