Samsung ChatGPT のリークは、チャットボットの使用による最新のデータ漏えいです。これは、言語モデルに関するプライバシーの懸念に関して慎重な時期に発生しました。偽の ChatGPT 拡張機能が Facebook アカウントをハイジャックします。
ChatGPT を使用してタスクを支援しているときに、Samsung の従業員は会社に関する機密情報を意図せず漏らしてしまいました。 同社は半導体部門のエンジニアに AI ライターへのアクセスを提供し、ソース コードの問題解決を支援しました。 ただし、従業員は、新しいソフトウェアのソース コードや議事録、ハードウェアに関する情報などの個人情報を入力しました。
Samsung ChatGPT のリークの結果、1 か月足らずで従業員が ChatGPT を介して重要な情報をリークした事例が 3 件記録されました。 Samsung のこれらの企業秘密は、ChatGPT を作成した企業である OpenAI の手に渡っています。OpenAI は、ユーザー入力データを保持してさらにトレーニングを行うためです。
Samsung ChatGPT リーク後の注意事項
韓国のローカル メディアの主張によると、Samsung の従業員が、故障した半導体データベースのソース コードを ChatGPT に入力し、解決策を見つけるのを手伝ってくれるよう依頼しました。 別の例では、従業員が故障した機器を修理しようとして秘密のコードを漏らしました。 報告によると、別の従業員がチャットボットに会議全体の制御を任せ、議事録を記録するように指示しました。
これに対応して、Samsung Semiconductor は現在、スタッフ メンバーが使用する独自の内部 AI を作成していますが、1024 バイト以下のプロンプトしか使用できません。
ただし、このプロセスを可能な限り効果的にすることで、チップ企業がプロセッサのテストと検証にかかる時間を大幅に節約できる可能性があり、コスト削減にもつながります。 前述のケースの 1 つでは、ある従業員が、チップの障害を特定するためのテスト シーケンスを最適化するように ChatGPT に依頼しました。
遅すぎる
ChatGPT に企業秘密を開示する際の問題は、従業員がコンピューターからログオフした後、入力した質問が常に消えるとは限らないことです。 OpenAI によると、ChatGPT または他のユーザー サービスによって提供される情報を使用して、AI モデルを強化する可能性があります。 つまり、ユーザーが明示的にオプトアウトしない限り、OpenAI はそのデータを保持します。 「特定のプロンプトを削除できない」ため、OpenAI はユーザーに重要な情報を公開しないように明示的に警告します。
事件を受けて、Samsung Electronics は、個人情報を開示する潜在的なリスクについて従業員に警告を発し、そのようなデータは現在 OpenAI が所有するサーバーに格納されており、取得できないと述べています。 競争の激しい半導体業界では、いかなる種類のデータ漏洩も企業にとって悲惨なことになる可能性があります。
しかし、過度に共有しているのは Samsung 内の ChatGPT ユーザーだけではありません。 サイバーセキュリティ企業である Cyberhaven が最近調査を行ったところ、AI のユーザーの 3.1% が企業の機密情報を入力したことがあることがわかりました。 Cyberhaven によると、約 100,000 人の従業員を抱える企業は、毎週何百回も OpenAI の個人情報を送信している可能性があります。
同社は、Samsung ChatGPT のリークに直面して、OpenAI が現在保持している個人情報を取得または削除するよう求める法的オプションを持っていないようです. これは、企業がデータを収集して使用する方法を導く法律の基本原則の 1 つであるため、ChatGPT はまさにこの点で EU の GDPR に違反していると示唆する人もいます。 これは、ChatGPT がイタリアで禁止された理由の 1 つでもあります。
