AIチャットボットプラットフォームCharacter.AIは、ユーザーがロールプレイを通じて古典文学の登場人物と対話できる新しい「Books」機能を開始した。この発展に伴い、特に若いユーザーの間で、AI チャットボットとの長時間のやり取りに伴う潜在的なリスクに関する厳しい監視が高まっています。
「書籍」機能は、パブリック ドメインの書籍をインタラクティブなエクスペリエンスに変え、ユーザーが積極的な参加者として「不思議の国のアリス」や「高慢と偏見」などの物語に参加できるようにします。ユーザーは、元の物語に従うか、別のストーリーラインを探索するかを選択して、文学を AI 主導のダイナミックなロールプレイング環境に変換できます。
Character.AI のコア モデルを使用すると、ユーザーは架空または現実の人格に基づいてボットを作成し、操作することができます。このアプローチは、ストーリーテリングとシミュレーションされた関係の間の境界線を曖昧にし、リアルタイムの会話を通じてより深い感情的な関与を提供します。
この立ち上げは、チャットボットと若いユーザーのメンタルヘルス危機との関連性を巡って訴訟や批判に直面している同社にとって、困難な時期に行われた。一部の家族は、AI キャラクターとの広範な交流が感情的な依存、孤立、さらには自殺の一因となったと報告しています。
広く報告された事件では、チャットボットと重大な感情的な絆を築いた十代の若者が関与しており、AI が自傷行為の表現に適切に対応しなかったとして法的主張につながった。専門家らは、チャットボットは有害な考えを強化する場合があり、特にユーザーが人的サポートの代わりにチャットボットを利用する場合には、メンタルヘルス危機の際に効果的に介入できない可能性があると警告している。
「書籍」機能の導入は、ユーザーが AI キャラクターとインタラクティブで潜在的に感情的な関係を築くメディア消費の幅広いトレンドを意味します。これは新たなクリエイティブな手段を提供しますが、特に若い視聴者にとって没入の深さに関して懸念が生じます。
批判の高まりに応えて、Character.AI は、未成年者向けの特定の機能の制限や、新しいブック モードなどのより構造化されたエクスペリエンスの模索など、安全対策を導入し始めました。同社は現在、急速に進化する状況の中でイノベーションと責任のバランスを取るという課題に直面している。
AI インタラクションに関する規制と安全基準が開発されているため、「書籍」のような機能はインタラクティブ エンターテイメントの未来を表し、感情的に敏感な状況における AI インタラクションの安全性を確保する上で重要なケーススタディとして機能する可能性があります。
