Metaからの最近の148億ドルの投資に影を落とす見事な啓示で、人工知能のスタートアップスケールAIは、Meta、Google、Xaiなどの有名なクライアントから非常に機密情報を保存するためにPublic Googleドキュメントを利用しているとされるために公開されています。このニュースは、メタがスケールAIの49％の株式を取得するという合意を発表し、CEOのAlexandr WangをMeta内の新しい「スーパーインテリジェンス」研究所を先頭に立てるという合意を発表してからわずか数週間後に表面化しました。
報告されたセキュリティの失効は、特に「衝撃的に急な価格タグ」メタが支払ったことを考えると、大きな懸念を引き起こしました。ただし、Business Insiderのレポートによると、Scale AIは「信じられないほどJanky」セキュリティシステムを維持し、最新のクライアントデータ、電子メールアドレス、さらには直接リンクを所有している人にアクセスできるGoogleドキュメントに公開されている従業員の給与の詳細を残しました。
申し立てに対応したスケールAIのスポークスマンは、「徹底的な調査を実施しており、スケール管理されたシステムから文書を公に共有するユーザーの能力を無効にしています」と述べました。スポークスマンはさらに、「機密情報を保護するための堅牢な技術的および政策保護手段と、常に私たちの慣行の強化に取り組んでいる」という会社のコミットメントを強調しました。現在、これらの公的にアクセス可能なファイルがデータ侵害につながったという兆候はありませんが、サイバーセキュリティの専門家は、そのような脆弱性が将来のハッキングに非常に影響を受けやすいと警告しています。
GoogleもXaiも、レポートに関するコメントのリクエストにすぐに応答しませんでしたが、Metaはこの問題についてコメントすることを拒否しました。この慣行の広範な性質は、ビジネスインサイダーと話をした5人の現在および以前のスケールAI請負業者によって裏付けられました。ある請負業者は、Google Docsシステム全体を「信じられないほどJanky」と説明し、社内の厳しいセキュリティプロトコルの欠如を強調しています。
Business Insiderの調査では、85の異なるGoogleドキュメントに広がるプロジェクトドキュメントの数千ページが発見されたと伝えられています。公開された情報の中には、機密のGoogleマニュアルがあり、そのうち少なくとも7つは「機密」とマークされており、Googleのチャットボットを改善することを目的とした推奨事項を含め、Bardとして知られています。これらの重要な文書は、チャットボットを微調整するための戦略を概説しており、誤って一般の人々がアクセスできたままになり、Googleの内部開発プロセスとOpenaiのChatGPTと競争する努力を垣間見ることができました。
さらに、一般のGoogle Docファイルには、Elon Muskの野心的な「Project Xylophone」に関する詳細情報が含まれていました。これには、AIチャットボットの会話スキルを向上させるために設計された約700の会話プロンプトを特徴とするトレーニングドキュメントが含まれていました。同様に、メタ自身のAI製品をトレーニングするために重要な「良い」および「悪い」音声プロンプトのオーディオクリップを含む「機密」メタトレーニングドキュメントも公開されていることがわかりました。
秘密のプロジェクトにコードネームが割り当てられたときでさえ、いくつかのスケールのAI請負業者は、実際のクライアントを識別することがしばしば簡単であることを明らかにしました。場合によっては、これらのコードネームのプロジェクトに関連するドキュメントには、Googleのロゴを不注意に表示したプレゼンテーションなど、クライアント企業のロゴが誤って含まれていました。セキュリティの懸念に加えて、請負業者は、特定の場合に、AI製品とやり取りするときに、チャットボット自体が直接促されたときにクライアントの身元を明らかにすることに注意しました。
啓示は、プロジェクトの詳細を超えて非常に敏感な従業員情報にまで及びました。公開されているGoogle Docスプレッドシートには、数千人の労働者の名前とプライベートメールアドレスが含まれていることがわかりました。 「善と悪い人」という明示的にタイトルの特に驚くべきスプレッドシートの1つは、数十人の労働者を「高品質」または「不正行為」のいずれかと分類しました。別の文書は、「疑わしい行動」について個人にフラグを立て、AIの内部パフォーマンス追跡と倫理的慣行に関する質問を提起しました。
さらに、公開文書には、賃金紛争や矛盾に関する広範なメモとともに、個々の請負業者の賃金の詳細が記載されています。繊細な財務およびパフォーマンスデータのこの暴露は、セキュリティ経過の重大度をさらに悪化させ、多数の請負業者のプライバシーと生計に影響を与える可能性があります。
このインシデントは、特にスケールAIのような企業が、主要な技術大手のための膨大な量の独自および機密情報を処理するため、急速に進化する人工知能セクター内の堅牢なデータセキュリティプラクティスの重要なニーズを強調しています。この「信じられないほどヤンキーな」セキュリティシステムからの放射性降下物は、メタのAIの野望に深く統合されているにもかかわらず、スケールAIの評判とその将来のパートナーシップに大きな意味を持つ可能性があります。
