ChatGPT の作成を担当する OpenAI は、AI によって書かれたテキストと人間によって書かれたテキストを区別する AI Text Classifier を開発しました。 これを「ChatGPT 検出器」と呼んでいます。 AI によって書かれたテキストを完全に確実に識別することはできませんが、OpenAI は、新しいツールによって、人間が書いたコンテンツが実際に AI によって生成されたという誤った主張の事例を減らすことができると考えています。
AI テキスト分類器について
声明の中で、OpenAI は、その AI Text Classifier が、自動化された誤った情報の拡散を妨げ、学術的な欺瞞のための AI の使用を防ぎ、チャットボットが人間になりすますのをブロックできると主張しています。
このツールの精度は、一連の英語のテキストでテストされ、AI によって書かれたテキストを 26% の確率で正しく識別しました。 ただし、9% の確率で、人間が書いたテキストを AI が生成したものとして誤って分類しました。 OpenAI によると、テキストが長いほどツールのパフォーマンスが向上するため、テストを実行するには最低 1,000 文字が必要です。
OpenAI の ChatGPT 検出器の使用方法は?
OpenAI AI Text Classifier は使いやすいです。 このページにアクセスしてログインし、テストするテキストを貼り付けて、送信ボタンを押すだけです。 ツールは、テキストが AI によって生成された可能性の評価を提供します。 結果の範囲は次のとおりです。
- 非常にありそうもない
- ありそうもない
- かどうかは不明
- もしかして
- おそらく
ChatGPT にサイバーセキュリティに関するエッセイを書いてもらい、そのエッセイを AI Text Classifier に提出してもらい、ChatGPT のライティング スキルを評価しました。 分類担当者は、エッセイを「AI によって生成された可能性がある」と評価しました。これは強力ですが、決定的な兆候ではありません。
エッセイが AI によって書かれたものであると完全に確信を持って言うことはできないため、これはツールの限界を浮き彫りにします。 Grammarly によって提案されたわずかな変更を加えて、評価を「おそらく」から「不明」に引き下げました。 OpenAI は、分類器を簡単に迂回できることを正確に指摘していますが、AI がテキストを書いたという唯一の証拠を意図したものではありません。
OpenAI は、ページの下部にある FAQ セクションで次のように述べています。
「AI Text Classifier の使用目的は、人間が書いたコンテンツと AI によって生成されたコンテンツの違いについての会話を促進することです。 結果は役立つかもしれませんが、ドキュメントが AI で生成されたかどうかを判断する際の唯一の証拠となるべきではありません。 このモデルは、さまざまなソースから人間が書いたテキストでトレーニングされているため、人間が書いたすべての種類のテキストを代表しているわけではありません。」
OpenAI は、ツールが AI と人間の書き込みが混在するテキストを検出するための広範なテストを受けていないと述べています。 AI Text Classifier は、AI によって作成された可能性のあるテキストを識別するのに役立ちますが、最終的な決定を下すための唯一の根拠として頼るべきではありません。
ChatGPT 405 – method not allowed エラーに対処している場合は、特別ガイドをチェックしてください!
Source: OpenAI は、AI によって生成されたテキストを検出するための AI Text Classifier を開始しました
