OpenAI は、ChatGPT のデータ侵害がコードの脆弱性によって引き起こされたことを明らかにしました。 オープンソース これは迅速かつ一見最小限の結果で修正されましたが、インシデントは将来の脅威の前兆である可能性があります チャットボット ユーザーと OpenAI アプリケーションでの将来のデータ侵害を回避するための予防措置を講じています。
ChatGPT やその他のチャットボットが最初に登場したとき 公に 利用可能な、 サイバーセキュリティ コミュニティは、サイバー攻撃を行うために AI 技術がどのように悪用されるかを懸念していました。 攻撃者が安全チェックを回避して悪用する方法を見つけるのに、それほど時間はかかりませんでした チャットGPT 悪意のあるコードを書くこと。
立場が逆転したようだ。 サイバー災害を誘発するために ChatGPT を使用する代わりに、攻撃者は現在、技術自体をアクティブにしています。 によると セキュリティウィーク、チャットボットを作成した企業である OpenAI は、コードのオープンソース フレームワークの脆弱性によって引き起こされた、システム内の ChatGPT データ侵害を明らかにしました。 ChatGPT のデータ侵害により、サービスは修復されるまでオフラインになりました。
ChatGPTの人気は、リリースされた瞬間から明らかでした 2022年. 著者からソフトウェアの専門家まで、誰もがチャットボットで遊びたいと思っていました。 その欠陥にもかかわらず (散文のいくつかはぎこちなく、盗用されていました)、ChatGPT は歴史上最も急速に成長している消費者向けアプリになりました。 毎月1億ユーザー に 1月. 発売から約1ヶ月で、 13 100 万人が毎日 AI テクノロジーを使用しました。 比較において、 チクタク、別の非常に人気のあるアプリは、同等のユーザー数を達成するのに9か月かかりました.
ChatGPT データ侵害
人気のあるアプリやテクノロジーが攻撃者の標的になるのは時間の問題です。 ChatGPT のデータ侵害の事例では、オープンソースの欠陥によって悪用が可能になりました。 レディス 図書館。 ユーザーは、他の現在のユーザーの会話履歴を表示できるようになりました。
によると 重い.AI、オープンソース ライブラリは、「クラス、構成データ、ドキュメント、ヘルプ データ、メッセージ テンプレート、事前に作成されたコードとサブルーチン、型仕様、および値など、簡単にアクセスでき、頻繁に使用されるルーチンとリソースを格納することにより、動的インターフェイスを開発するために使用されます。 」
OpenAI は Redis を使用してユーザー情報を保存し、より迅速に呼び出してアクセスできるようにします。 何千人もの貢献者がオープンソース コードを作成して使用しているため、脆弱性が簡単に発生し、気付かれないことがあります。 攻撃者はこれを認識しているため、オープンソース ライブラリへの攻撃は 2019 年以来 742%。
ChatGPT 脆弱性は大規模なスキームでは小さく、OpenAI は発見から数日以内に欠陥を修正しました。 しかし、些細なサイバー インシデントでさえ、重大な損害を引き起こす可能性があります。
しかし、それはほんの些細な出来事でした。 ChatGPT のデータ侵害の研究者がさらに掘り下げたところ、ChatGPT がオフラインになる数時間前に、同じ脆弱性が支払い情報の可視性を引き起こしている可能性が高いことがわかりました。
「一部のユーザーは、別のアクティブなユーザーの姓名、電子メール アドレス、支払い先住所、クレジット カード番号の下 4 桁 (のみ)、およびクレジット カードの有効期限を見ることができました。」 「完全なクレジット カード番号が漏洩したことはありません」と、OpenAI はこの事件に関する声明で述べています。
チャットボット、AI、サイバーセキュリティ、ChatGPT データ侵害
ChatGPT のデータ侵害は迅速かつ一見最小限の影響で修正され、影響を受けた有料の顧客は 1% そのユーザーの。 ただし、このインシデントは、チャットボットとユーザーに対する将来の脅威の前兆となる可能性があります。
チャットボットの使用に関しては、すでにプライバシーの問題があります。 マーク・マクレアリー共同議長 狐ロスチャイルドLLPの プライバシーとデータ セキュリティの実践について、 CNN ChatGPT とチャットボットは、旅客機のブラック ボックスに似ています。 AI テクノロジーは大量のデータを蓄積し、そのデータを利用してクエリやプロンプトに対する回答を生成します。 さらに、チャットボットのメモリにあるものはすべて、他のユーザーが利用できるようになります。
たとえば、チャットボットは、任意のトピックに関する 1 人のユーザーのメモをキャプチャし、さらに詳細を要約または検索できます。 ただし、これらのメモに機密データ (組織の知的財産や顧客の機密情報など) が含まれている場合は、 チャットボット 図書館。 ユーザーは情報の制御を失いました。
AIの制限が強化されています
一部の企業や国全体が、プライバシーに関する懸念を取り締まっています。 JPモルガン追跡たとえば、サードパーティのソフトウェアやアプリに対する会社の制限により、従業員による ChatGPT の使用が制限されていますが、チャットボットに入力される財務情報のセキュリティについても懸念があります。 そしてイタリアは、全国でプログラムを一時的にブロックした理由として、市民のデータ保護を挙げました。 当局者は、懸念の原因は次のとおりだと主張した。 GDPR コンプライアンス。
攻撃者は、ChatGPT を使用して高度な情報を送信することも期待されています。 現実的なフィッシングメール、 によると 専門家. お粗末な言葉遣いや奇妙なフレーズの構成は、もはやフィッシング スキームの兆候ではありません。 チャットボットは、カスタマイズされたメッセージを送信することで、自然な話者をエミュレートするようになりました. ChatGPT は完璧な言語翻訳が可能で、他国の敵にとってゲームチェンジャーとなるでしょう。
AI を使用して誤った情報や陰謀キャンペーンを作成することも、同様に有害な手法です。 この慣行の結果は、サイバーの危険を超えて広がる可能性があります。 利用した研究者 チャットGPT に見られるものに似た論説を作成する インフォウォーズ または陰謀論を助長するその他の有名な Web サイト。
脅威は OpenAI によって対処されています
チャットボットのデータ侵害の開発は、より複雑な言語能力またはその人気によって、新たなサイバー リスクをもたらします。 その結果、このテクノロジーは攻撃ベクトルの主な標的となっています。 その目的のために、OpenAI はアプリケーションでの将来のデータ侵害を回避するための予防措置を講じています。 最大で のバグ報奨金が支払われます $20,000 これまで知られていなかった脆弱性を発見したすべての人に。
ただし、によると、 ハッカーニュース、「このプログラムは、チャットボットが悪意のあるコードやその他の誤った出力を生成するように促されるモデルの安全性や幻覚の問題をカバーしていません。」 そのため、OpenAI は、チャットボットがサイバー攻撃の源になるのを防ぐためにほとんど何もせずに、外部からの攻撃に対して技術を強化したいと考えているようです.
ChatGPT やその他のチャットボットは、サイバーセキュリティの分野で重要な役割を果たします。 このテクノロジーが攻撃の標的になるのか、それとも攻撃の発生源になるのかは、時がたてばわかります。
データ漏洩とサイバー攻撃は、今日の最も深刻な問題の 1 つです。 同意しませんか？ これらを見てください：
- T-Mobile のデータ侵害: 3,700 万のアカウントが影響を受ける
- Twitter のデータ侵害: 4 億人のユーザーが影響を受ける
