Openaiは、数ヶ月からわずか数日で新しいAIモデルを評価するために割り当てられた時間を大幅に短縮し、徹底的な安全評価についてスタッフとサードパーティのテスターの間で懸念を引き起こしました。
Openaiまたはサードパーティのテスターのスタッフの8人は、新しいモデルの評価を完了するために「ちょうど日」を与えられたことを明らかにしました。評価は、モデルのリスクやその他の害を表面化するためには、ユーザーがモデルを脱獄して生物兵器を作成するための指示を提供できるかどうかなどです。比較のために、情報筋は、Openaiがリリース前にGPT-4をレビューするために6か月を与え、能力に関する能力は2か月後にしか発見されなかったことに注目しました。
情報源は、Openaiのテストは以前ほど徹底的ではなく、リスクを適切にキャッチして軽減するために必要な時間とリソースが不足していると付け加えました。 「いつより徹底的な安全テストがありました [the technology] O3-MINIのフルバージョンであるO3をテストしている1人の人は、シフトを「無謀」で「災害のレシピ」と説明しました。ラッシュは、特に中国のAIスタートアップDeepseekのような競合他社のオープンウェイトモデルがより多くの地位を獲得するため、競争力を維持したいというOpenaiの欲求に起因しています。
Openaiは来週O3をリリースしていると噂されていますが、情報筋によると、1週間以内にタイムラインを急いだと述べています。この変更は、モデルの害を開示するための要件を含む、AIモデルの政府規制の欠如を強調しています。 Openaiのような企業は、米国AI安全研究所との日常的なテストを実施するために、バイデン政権との自発的契約に署名しましたが、これらの契約はトランプ政権の下で去りました。
トランプ政権の今後のAIアクションプランの公開コメント期間中、Openaiは、州ごとの法律をナビゲートすることを避けるために同様の取り決めを提唱しました。米国以外では、EU AI法は、企業がモデルをテストし、結果を文書化するリスクを負うことを要求します。 Openaiの安全システムの責任者であるJohannes Heideckeは、「私たちはどれだけ速く移動し、どれだけ徹底しているかというバランスが良い」と主張しました。ただし、テスターはアラームを表現し、特にプロセスの他の穴を考慮して、一般のモデルにリリースされたモデルのあまり良くないバージョンのバージョンを評価したり、新しいモデル自体をテストするのではなく、以前のモデルの機能を参照したりすることを含む。
Source: OpenaiはAIテストを速め、安全性の懸念を引き起こします
