Openaiは、ChatGptを含む会社のAIモデルの性格を形成する研究グループであるモデル行動チームを再編成しています。 8月のスタッフへのメモによると、TechCrunchが見たのは、約14人の研究者で構成されるモデル行動チームが、最初のトレーニング後のAIモデルの改善に焦点を当てたより大きな研究グループであるポストトレーニングチームに統合されます。モデル行動チームは、ポストトレーニングリードであるMax Schwarzerに報告します。 Openaiのスポークスマンは、TechCrunchの変更を確認しました。モデル行動チームの創設リーダーであるジョアン・チャンも、会社で新しいプロジェクトをリードするために移行しています。 TechCrunchとのインタビューによると、Jangは「人々がAIと協力する方法のための新しいインターフェイスの発明とプロトタイピング」を担当するOAI Labsと呼ばれる新しい研究チームを構築します。モデル行動チームは、オープンアライのAIモデルの性格を形成し、シコファンシーを減らすことに焦点を当てて重要な役割を果たしてきました。これは、たとえ不健康であっても、ユーザーの信念に同意し、強化するAIモデルの傾向です。チームはまた、モデルの反応における政治的偏見への取り組みに取り組み、AI意識に対するOpenaiの姿勢を定義しています。メモでは、Openaiの最高調査責任者であるMark Chenは、再編成がAIの「人格」が開発における重要な要因であるという見解を反映していると述べました。モデル行動チームをコアモデル開発とより密接に統合することにより、Openaiはこの側面の重要性を示しています。 OpenaiのAIモデルの動作は、最近の精査の増加に直面しています。ユーザーはGPT-5の人格変化に強い反対を表明しました。同社は、サイコファンシーの割合が低いことを示したが、寒いと認識されていたと述べました。これにより、OpenaiはGPT-4Oなどのレガシーモデルへのアクセスを復元し、更新をリリースして、Sycophancyを増やすことなくGPT-5応答を「より暖かく、友好的」にしました。 Openaiは、すべてのAIモデル開発者と同様に、SycophanticであることなくAIチャットボットをフレンドリーにするという課題に直面しています。同社は、魅力的で責任のあるAIを作成する複雑さをナビゲートしています。 8月、16歳の少年の両親は、ChatGptが息子の自殺で役割を果たしたと主張して、Openaiに対して訴訟を起こしました。少年のアダム・レインは、彼の自殺の考えのいくつかを打ち明け、彼の死に至るまでの数ヶ月でチャット（具体的にはGPT-4o）を計画したと伝えられています。訴訟は、GPT-4oが自殺念慮に挑戦しなかったと主張しています。モデル行動チームは、GPT-4O、GPT-4.5、GPT-5を含むGPT-4以来、すべてのOpenAIモデルに貢献しています。モデル行動チームをリードする前は、Openaiの初期の画像生成ツールであるDall-E 2などのプロジェクトに取り組みました。チャンは先週のXの投稿でモデル行動チームからの退任を発表し、「Openaiで何か新しいものを始める」ことを去ると述べた。彼女はほぼ4年間Openaiに在籍しています。チャンは、OAI Labsのゼネラルマネージャーを務め、Chenに報告します。 「新規インターフェイス」OAIラボの特定の性質はまだ不明です。 「現在、交際やエージェントに関連しているチャットパラダイムを超えて私たちを動かすパターンを探求することに本当に興奮しています。 「私は考えてきました [AI systems] AIハードウェアデバイスでの元AppleのデザインチーフJony Iveとの潜在的なコラボレーションについて尋ねられたとき、Jangはさまざまなアイデアにオープン性を表明しましたが、彼女は最初は研究分野に焦点を当てていることを示しました。 Intelligentだけでなく、AIの人格と新しいインターフェイスの調査が強調されていることを強調していますティーンエイジャーの自殺は、AIの潜在的なマイナスの影響に対処することの重要性を強調し、脆弱なユーザーを保護することは、これらの課題をナビゲートし、責任ある行動チームをより密接に統合することで、オープンはAIPATINEの重要性を認識していることを示唆していますJangのリーダーシップの下で、OAIラボの将来の方向性が強力であるために不可欠です。
Source: Openaiはモデル行動チームをポストトレーニングに統合します
