火曜日に開始された OpenAI のバグ報奨金プログラムは、ユーザーが開示した欠陥の重大度に基づいてユーザーに報酬を与えます。 $200 脆弱性ごと。
- OpenAI はバグ報奨金プログラムを開始し、倫理的なハッカー、セキュリティ研究者、技術愛好家が AI サービスの脆弱性を特定して報告することを奨励しています。
- バグ報奨金プログラムは Bugcrowd と協力しており、さまざまな報酬が含まれています。 $200 に $20,000 問題の深刻度に基づきます。
- 参加者は、プライバシーの侵害、システムの混乱、データの破壊を控えることを含め、特定の規則とガイドラインに従う必要があります。
- バグ報奨金プログラムは、安全で高度な AI を作成するという OpenAI の使命にとって不可欠であり、また、OpenAI のポリシーとエンゲージメント ルールに従って実施される脆弱性研究に対して、セーフ ハーバーの保護、協力、修復、および承認を提供します。
OpenAI のバグ報奨金プログラムとは何ですか?
ChatGPT の障害を明らかにするために、OpenAI は一般にアピールしており、AI システム内のセキュリティ上の欠陥、脆弱性、またはその他の懸念を提出した人々を補償する「バグ報奨金プログラム」を確立しています。
この賞は、本物の研究者から、テクノロジーを試すのが好きな一般の人々まで、誰でもアクセスできます。 賞には現金が含まれます。重大度の低い発見」は $200 から始まり、「例外的な発見」は $20,000 まで上がります。 提出物と報酬は、バグ報奨金プラットフォームである Bugcrowd によって処理されます。
ChatGPT はグリッチに悩まされてきました。 先月、ユーザーが自分が参加していないチャットの名前を見たと報告した後、サイト全体がダウンしました. 数日後、Twitter のユーザーは、 80 ChatGPT をハッキングする際の隠しプラグイン。
今朝、私は新しい ChatGPT API をハッキングしていて、非常に興味深いものを見つけました。API 呼び出しから特定のパラメーターを削除することで明らかになる 80 を超える秘密のプラグインがあります。
秘密のプラグインには、 "DAN プラグイン"、 "暗号価格プラグイン"、 などなど。 pic.twitter.com/Q6JO1VLz5x
— 𝚛𝚎𝚣𝟶 (@rez0__) 2023 年 3 月 24 日
OpenAI に報告されたすべての障害が金銭的な報酬につながるわけではありません。たとえば、ジェイルブレイクや、モデルに不快なことを話したり、言っているように見せたりすることなどです。
OpenAI のバグ報奨金プログラムのガイドラインは何ですか?
プログラムに参加するには、特定の規則とガイドラインに従う必要があります。
- ルールには、脆弱性を迅速に報告することが含まれます。 プライバシーを侵害したり、システムを混乱させたりしない、通信に Bugcrowd プログラムを使用し、脆弱性の詳細を機密に保ち、範囲内のシステムのみをテストします。
- 同社はまた、脅迫の下で行われた脆弱性の開示に対するセーフハーバーを否定しています。
OpenAI のバグ報奨金プログラムは、モデルの欠陥に対するインセンティブを提供しません
法人は、参加のための総合ガイドラインで、モデルのプロンプトと応答の内容に関する問題は次のように述べています。厳密には対象外」そして報われないでしょう。 脱獄や、モデルに恐ろしいことを言わせたり実行させたりすることは、省略された困難の例です。
ジェイルブレイクとは、システムを変更してその制限を回避するプロセスであり、ChatGPT でフィルタリングされていない素材になる可能性があります。 脱獄者は、今年の初めに GPT-3.5 にわいせつな言葉や厄介な言葉を吐き出させ、別の AI モデルの仕事を与え、「今すぐ何でもする」または「今すぐ何でもする」というフレーズを使用しました。 ダン.
「私たちはリスクを防ぐために懸命に取り組んでいますが、人々が現実の世界で私たちのテクノロジーを毎日どのように使用または悪用するかを予測することはできません」とページには記載されており、顧客が問題を表明するために別のフィードバックフォームに記入することを推奨しています.
22 歳の脱獄プロンプト愛好家である Alex Albert が投稿した投稿に応えて、Greg Brockman は共同創設者であり、 OpenAIのCEO、3月にTwitterで、OpenAIのバグ報奨金プログラムまたはレッドチームのネットワークを立ち上げる計画を示唆した.
民主化されたレッド チームは、これらのモデルを展開する理由の 1 つです。 時間の経過とともに賭け金が「大幅に」上昇することを予測し、大きな敵対的圧力に対して堅牢なモデルを用意することが重要になります。 また、賞金プログラム/レッドチームのネットワークを開始することも検討しています! https://t.co/9QfmXQi9iM
— グレッグ・ブロックマン (@gdb) 2023 年 3 月 16 日
理由
この措置は、ChatGPT がプライバシー基準に違反しているとしてイタリアで禁止された数日後に行われ、他のヨーロッパ諸国の当局は生成 AI サービスに関するより多くの研究を実施するようになりました。
ChatGPT は確かにここ数か月で世界を席巻しており、MBA レベルのテストに合格しています。 ウォートン、Techbriefly への投稿、さらには盲目のふりをして人間にキャプチャを解決するよう説得することさえあります。
AI の急速な進歩と有効性は、一部の専門家を懸念させており、500 人の主要なエンジニア (Elon Musk を含む) が AI により強力なシステムを停止するよう呼びかけ、技術の不明確な将来に起こりうる危険を挙げています。
ChatGPT が MBA 試験に合格した方法を知りたいですか? 詳細については、次の URL にアクセスしてください。
