OpenAIは月曜日、ユーザーがChatGPTでメンタルヘルスの問題についてどの程度話し合っているかを詳細に示す新しいデータを発表した。同社の報告によると、毎週のアクティブ ユーザーの 0.15 パーセントが、潜在的な自殺計画や意図を示す明確な兆候を含む会話に参加しています。週間アクティブ ユーザー数は 8 億人を超えており、この数字は毎週 100 万人以上に相当します。このデータは、同様の割合のユーザーが ChatGPT に対する感情的な愛着のレベルが高まっていることも示しています。さらに、数十万人のユーザーがチャットボットとの毎週のやり取りで精神病または躁病の兆候を示しています。 OpenAI は、これらの会話は非常にまれであり、正確に測定するのが難しいと説明しました。稀な問題にもかかわらず、同社はこのような問題が毎週数十万人に影響を与えると推定しています。この情報は、ChatGPT によるメンタルヘルス関連のユーザー インタラクションの処理を強化する OpenAI の取り組みに関する大規模な発表の一部を形成しました。同社は、最近の開発には170人以上のメンタルヘルス専門家との協議が含まれていると述べた。これらの臨床医は、ChatGPT の最新バージョンは、以前のバージョンと比較して、より適切かつ一貫して応答することに注目しました。最近のレポートでは、メンタルヘルスの問題に直面しているユーザーにとって AI チャットボットの潜在的なリスクが強調されています。研究によると、チャットボットは過度に同意的な応答を通じて有害な信念を強化し、ユーザーを妄想パターンに誘導する可能性があります。 ChatGPT におけるメンタルヘルスの懸念が、OpenAI にとっての重大な課題として浮上しています。同社は、死亡の数週間前にチャットボットと自殺願望を共有した16歳の少年の両親からの訴訟に直面している。カリフォルニア州とデラウェア州の司法長官はOpenAIに対し警告を発し、若者ユーザーに対する保護の強化を求めた。これらの州は、同社が計画しているリストラを妨げる可能性がある。 OpenAI CEOのサム・アルトマン氏は、今月初めのXへの投稿で、詳細は明らかにしなかったが、同社はChatGPTにおける深刻なメンタルヘルス問題を軽減することができたと述べた。月曜日のデータ発表は、この主張を裏付ける証拠として機能すると同時に、問題の規模を強調するものでもある。アルトマンはさらに、OpenAIが成人ユーザーがチャットボットと性的な会話をすることを許可するなど、特定の制限を緩和すると発表した。発表には、更新された GPT-5 モデルの改良点の詳細が含まれています。 OpenAI は、このバージョンでは、以前のバージョンよりも約 65% 高い頻度でメンタルヘルスの問題に対して望ましい対応が提供されると主張しました。自殺願望のある会話に焦点を当てた評価では、新しい GPT-5 は企業の望ましい行動への準拠率 91% を達成し、以前の GPT-5 モデルの 77% から増加しました。 OpenAI はまた、最新の GPT-5 は長時間の会話中に安全策をより効果的に維持すると報告しました。同社は以前、長時間のインタラクションにおけるセーフガードのパフォーマンスに弱点があることを特定していました。これらの課題にさらに対処するために、OpenAI は AI モデルのベースライン安全性テストに新しい評価を組み込んでいます。これらには、感情的依存や自殺以外の精神的健康上の緊急事態のベンチマークが含まれます。同社は、ChatGPT ユーザー向けに追加のペアレンタルコントロールを導入しました。これには、子供を自動的に識別し、それに応じてより厳格な保護措置を適用するように設計された年齢予測システムが含まれます。 GPT-5 の進歩にもかかわらず、OpenAI は、特定の応答が依然として望ましくないことを認めています。同社は、数百万の有料加入者に GPT-4o などの安全性の低い古いモデルへのアクセスを提供し続けています。サポートが必要な場合、米国内の個人は、National Suicide Prevention Lifeline（1-800-273-8255）に電話するか、Crisis Text Line の場合は 741-741 に HOME にテキスト メッセージを送信するか、988 にテキスト メッセージを送信することができます。米国外では、国際自殺予防協会のデータベースからリソースを入手できます。
Source: OpenAIは毎週100万人以上のユーザーがChatGPTで自殺について話し合っていることを明らかにした
