プリンストン大学の 4 年生である 22 歳の Edward Tian は、冬休み中に GPTZero アプリを作成しました。 このアプリは、テキストが人気のあるチャットボット ChatGPT によって生成されたかどうかを評価するように設計されています。 Tian 氏によると、GPTZero アプリは、テキストが人間によって書かれたものか ChatGPT によって書かれたものかを迅速かつ効率的に判断できます。
コンピューター サイエンスを専攻し、ジャーナリズムを副専攻とする Edward Tian 氏は、AI 盗作の増加に対処するために GPTZero アプリを開発しました。 テキストの作者が AI なのか人間なのかは、人が知るに値すると考え、このアプリを作成するに至りました。 GPTZero アプリを宣伝するツイートで、彼は次のように書いています。 あれもこれもAIが書いたものですか？ 私たち人間は知るに値する！」
年末年始は GPTZero の作成に費やしました — エッセイが ChatGPT か人間が書いたものかを迅速かつ効率的に検出できるアプリ
— エドワード・ティアン (@edward_the6) 2023 年 1 月 3 日
11 月に ChatGPT が導入された後、学生が言語モデルを使用して AI 生成の課題を自分の課題として提出したという報告がありました。 Tian による GPTZero アプリの開発により、教師は、生徒が提出したエッセイが ChatGPT によって書かれたものかどうかを識別するための新しいツールを使用できるようになりました。 Tian がアプリを公開した 1 月 2 日に、他の教師が彼に連絡を取り、AI が書いた作文を検出するパフォーマンスについて肯定的なフィードバックを共有しました。
GPTZero アプリ: ChatGPT の書き込みを検出するには?
GPTZero アプリは、テキストが人間によって書かれたものかボットによって書かれたものかを判断する指標として、「パープレキシティ」と「バースティネス」を使用します。 Perplexity はテキストの複雑さの尺度です。GPTZero アプリがテキストを理解するのが難しいと判断した場合、それはテキストがより複雑であることを意味し、したがって人間によって書かれた可能性があります。 理解しやすいと判断された場合は、同様のテキストでトレーニングされているため、AI によって生成された可能性が最も高くなります。 「バースト性」はさまざまな文のバージョンと対照的であり、人間はより速く書く傾向があり、長い単語と短い単語が混在している可能性がありますが、AI で生成された文は一般的に一貫性があります。
Tian は、New Yorker の記事と LinkedIn の ChatGPT 投稿の分析をビデオで示して、アプリが人間と AI によって書かれたテキストをどのように区別できるかを示しました。 このアプリは、その分析において効果的であることが証明されました。 ローンチから 1 週間以内に GPTZero アプリは 30,000 人以上のユーザーに使用され、その人気によりアプリがクラッシュしました。 GPTZero アプリを実行するオープンソース ソフトウェアである Streamlit は、Tian を支援するために、Web サイトの高トラフィックを処理するためのより多くのリソースを提供してきました。
これはジョン・マクフィーの簡単なデモです "参照枠" pic.twitter.com/WphxfxxFdr
— エドワード・ティアン (@edward_the6) 2023 年 1 月 3 日
AI の盗作や捏造に反対しているのは、エドワード・ティアンだけではありません。 ChatGPT の作成者である OpenAI も、このような AI の悪用を阻止するというコミットメントを示しています。 AI の安全性を専門とする OpenAI 研究者の Scott Aaronson 氏によると、この組織は、GPT で生成されたテキストに「目立たない秘密の信号」を埋め込んでその起源を追跡する方法を開発しており、これは「透かし」の概念に似ています。 これは、AI の盗作やその他の悪意のある使用を検出するのに役立ちます。
オープンソースの AI コミュニティである Hugging Face は、ChatGPT の作成に使用された AI モデルの古いバージョンである GPT-2 によってテキストが生成されたかどうかを判断できるツールをリリースしました。 この手法を知っていたサウスカロライナ州の哲学教授は、AI によって作成された作品を提出する学生を検出するためにこの手法を使用したと報告しました。
Edward Tian は、ChatGPT やその他の AI テクノロジーの使用に反対しているわけではありません。彼は、GPTZero アプリはこれらのテクノロジーの使用を妨げるものではなく、責任を持ってそれらを採用し、必要な保護を提供する方法を提供するものであると考えています。 彼は、あまりにも長い間ブラック ボックスであった AI に透明性をもたらしたいと考えています。 彼は、GPTZero アプリが完璧ではなく、その精度の向上に取り組んでいることを理解していますが、人間の書き込みと AI 生成の書き込みの違いについて人々に洞察を与えるためにアプリを作成しました。 彼の主な目標は、AI をより透明にすることだと強調しました。
剽窃に対する正当なプロジェクトがありますが、Microsoft などの一部の大企業は、ChatGPT を自社のソフトウェアに統合しています!
