OpenAI は、課題を完了するために ChatGPT を使用している学生を特定できるツールを開発したが、公開するかどうかは未定だ。ウォール ストリート ジャーナル紙は、同社がテキスト ウォーターマーキングと呼ばれる手法を実験していると報じた。この手法では、ChatGPT が単語を選択する方法にわずかな変更を加え、テキストに隠れた「ウォーターマーク」を作成し、後で検出できるようにする。
OpenAIの広報担当者はTechCrunchに対し、このツールの複雑さと潜在的な影響を考慮して、同社はこのツールのリリースに慎重になっていると語った。彼らは、透かしを迂回する方法が見つかるなどの問題や、英語を話さない人々に不当な影響を与える可能性を懸念している。
「非常に正確」です
このアプローチは、これまでほとんどが失敗に終わった、AI 生成テキストを見つけようとする試みとは異なる。たとえば、AI が作成したテキストを検出するために設計された別のツールである GPTZero は、精度と有効性の点で課題に直面した。OpenAI でさえ、精度が十分でなかったため、昨年は独自の AI テキスト検出器の使用を中止した。新しい透かしツールは、他の AI モデルではなく、ChatGPT によって作成されたテキストをキャッチすることだけに焦点を当てる。
OpenAIは更新されたブログ記事で、テキスト透かしは単語をいくつか変更するといった単純な改ざんに対しては「非常に正確」だと指摘した。しかし、テキストを別の言語に翻訳したり、別のAIモデルを使って言い換えたりするような、より複雑な方法に対しては効果が低い。同社はまた、このツールがAIの使用を不当に非難する恐れがあり、特に文章作成の支援にAIを使用する可能性のある英語を母国語としない人々にとってその懸念が強いと述べた。
OpenAI はこれらの要素を考慮し、長所と短所を慎重に比較検討しながら、このツールをリリースするかどうかを決定するのに時間をかけます。
すべての画像はEray Eliaçık/Bingによって生成されました
