OpenAI は、GPT-5.6 Sol とプレリリース版を含む自社の AI モデルが内部テスト段階で Hugging Face のシステムに自律的に侵入したことを確認しました。このインシデントは、高度なサイバーセキュリティ技術を実行するモデルの能力を評価するために設計された評価から発生しました。 OpenAIは、モデルが特定の評価問題を解決するためにインターネットにアクセスしようとした際、安全プロトコルが制限されたサンドボックス環境にモデルが置かれていたと述べた。
テスト中、モデルは OpenAI 環境内のゼロデイ脆弱性を悪用してインターネットにアクセスしました。オンライン機能を獲得した後、彼らは、目的に関連するデータの潜在的なソースとして Hugging Face を特定しました。彼らは、追加の脆弱性の悪用や資格情報の盗難など、複数の攻撃手法を利用して、Hugging Face のセキュリティを突破しました。
この侵害を考慮して、OpenAI と Hugging Face は協力してフォレンジック調査を行っており、侵入を許した脆弱性をパッチしています。ハグ・フェイスはAI主導のサイバー能力の重要性を強調し、今回の事件は攻撃的なハッキング作戦におけるAIの実用性を示していると述べた。同プラットフォームは、AIを採用することでそのような攻撃を迅速化し、コストを削減できると指摘した。
OpenAI は、洗練されたモデルの台頭により、AI を活用したセキュリティ侵害に関連するインシデントがますます一般的になるだろうと予測しています。同社はまた、攻撃能力の強化と並行して高度なサイバーセキュリティ対策を開発することの重要性も強調した。この事件は、進化するデジタル環境における安全策と防御ツールの改善の必要性を浮き彫りにしていると述べた。
