画期的なイノベーションで知られる人工知能の大手企業 OpenAI が、望まない理由にもかかわらず、再び注目を集めている。今回同社は、データ保護の実践と全体的なサイバーセキュリティの枠組みについて懸念を引き起こした 2 件の重大なセキュリティ侵害により、厳しい監視に直面している。
ChatGPT for Macは思ったほど安全ではない
最初の事件は、OpenAIのMacユーザー向けChatGPTアプリに関するもので、最近、ユーザーの会話を暗号化されていない形式で直接ローカルデバイスに保存していることが発覚した。 ザ・ヴァージのレポート。
これは、チャット中に共有された機密情報が潜在的に公開され、他のアプリケーションや悪意のあるソフトウェアにアクセスされる可能性があることを意味しました。
Swift 開発者の Pedro José Pereira Vieito 氏がこの脆弱性を明らかにし、OpenAI は保存された会話の暗号化を実装するアップデートを迅速にリリースしました。しかし、この事件は、一見無害なアプリケーションでも堅牢なセキュリティ対策の重要性を浮き彫りにしました。
macOS 上の OpenAI ChatGPT アプリはサンドボックス化されておらず、すべての会話を **プレーンテキスト** で保護されていない場所に保存します。
~/ライブラリ/アプリケーションサポート/com.openai.chat/conversations-{uuid}/
つまり、基本的に他のアプリやマルウェアは ChatGPT のすべての会話を読み取ることができます。 pic.twitter.com/IqtNUOSql7
— ペドロ・ホセ・ペレイラ・ビエイト (@pvieito) 2024年7月2日
昨年の事件はテクノロジー大手を悩ませている
セキュリティ上の問題をさらに悪化させたのは、昨年春に起きた別の侵入事件が再び OpenAI を悩ませていることである。ハッカーが同社の社内メッセージング システムに侵入し、同社の業務や AI 技術に関する機密情報にアクセスしたのだ。
OpenAIの幹部は、顧客やパートナーのデータが侵害されていないと考え、当時は情報漏洩を公表しないことを選択したが、この事件は社内の不和を引き起こした。
元OpenAI技術プログラムマネージャーのレオポルド・アッシェンブレンナー氏を含む一部の従業員は、同社のセキュリティ対策は、特に貴重なAI技術を盗もうとする外国の敵対者からの潜在的な脅威から守るのに不十分であると懸念を表明している。
セキュリティ？結構です！
この 2 つの事件により、OpenAI のセキュリティと透明性に対する取り組みについて、より広範な議論が表面化した。同社は当面の脆弱性に対処するための措置を講じているが、社内プロセスや、AI アプリケーションの開発と展開においてセキュリティをどの程度優先しているかについては疑問が残る。高度な AI 技術に関連する潜在的な地政学的リスクは、外国による知的財産の盗難に対する懸念が大きく迫っているため、問題をさらに複雑にしている。
OpenAI はこれらの課題に対して 2 つの対応をとっています。
まず、同社は将来の技術に関連するリスクを評価し、軽減するための安全・セキュリティ委員会を設立しました。この委員会には、元陸軍大将でサイバーセキュリティの専門家であるポール・ナカソネ氏などの著名人が参加しています。次に、同社は自社の技術保護への投資への献身を再確認し、これらの取り組みは最近の事件以前から行われており、継続的に進化していることを強調しました。
OpenAI の評判とユーザーの信頼は、こうした経験から学び、AI テクノロジーの開発において次々と革新を起こして私たちを驚かせ続ける中で、セキュリティを最優先に維持できるかどうかにかかっています。
注目の画像クレジット: ジョナサン・ケンパー/Unsplash
