セキュリティ会社 PromptArmor の最近のレポートで、Slack AI に深刻な問題があることが明らかになりました。Slack AI は、Slack での会話の要約や情報の検索などのタスクでユーザーを支援するツールです。問題は、Slack AI にセキュリティ上の欠陥があり、Slack チャンネルから個人データが漏洩する可能性があることです。
何が問題なの？
Slack AI は、Slack のデータを使用してチャットを要約したり質問に答えたりすることで、作業を容易にすることを目的としています。しかし、PromptArmor は、この AI がプロンプト インジェクションと呼ばれるものに対して脆弱であることを発見しました。これは、攻撃者が AI を騙して、本来は漏らすべきでない情報を漏らす可能性があることを意味します。
プロンプト注射はどのように機能しますか?
プロンプト インジェクションは、AI の動作を操作するために使用される方法です。仕組みは次のとおりです。
- 悪意のあるプロンプト: 攻撃者は AI を騙すプロンプト (コマンドの一種) を作成します。
- データへのアクセス: このプロンプトにより、AI は、プライベート チャネルを含む、攻撃者がアクセスできないはずのチャネルからデータを取得できます。
攻撃者は、API キーなどの機密情報を Slack のプライベート チャンネルに入力すると攻撃を開始します。このチャンネルは、攻撃者だけがアクセスできるように保護されています。しかし、Slack AI の脆弱性により、後でこのデータにアクセスできるようになります。
次に、攻撃者はパブリック Slack チャンネルを作成します。このチャンネルはワークスペースの全員に公開されますが、攻撃者はこれを利用して有害なプロンプトを追加します。このプロンプトは、Slack AI を騙して、個人情報にアクセスするなど、実行すべきでない操作を実行させるように設計されています。
パブリック チャンネルの有害なプロンプトにより、Slack AI はクリック可能なリンクを生成します。このリンクは Slack メッセージの通常の一部のように見えますが、実際には攻撃者が管理するサーバーにつながります。誰かがリンクをクリックすると、API キーなどの機密情報が攻撃者のサーバーに送信され、盗まれて悪用される可能性があります。
最近のアップデートによる新たなリスク
8 月 14 日、Slack は、Slack AI の応答にチャンネルとダイレクト メッセージのファイルを含めるアップデートを行いました。この新機能により、さらなるリスクが生じます。悪意のある命令が隠されたファイルが Slack にアップロードされると、同じ脆弱性を悪用される可能性があります。
何が行われているのですか?
PromptArmor はこの問題について Slack に通知しました。Slack はパッチをリリースし、調査を開始することで対応しました。同社は、現時点では顧客データへの不正アクセスは認識していないと述べています。
自分を守るにはどうすればいいですか?
- AI アクセスを制限する: ワークスペース管理者は、問題が解決されるまで Slack AI のファイルへのアクセスを制限する必要があります。
- ファイルには注意してください: 隠された指示が含まれている可能性のある疑わしいファイルをアップロードしないでください。
- 最新情報を入手: さらなるセキュリティ修正やアドバイスについては、Slack と PromptArmor からの更新に注意してください。
Slack AI は便利な機能を提供していますが、この脆弱性は AI ツールに強力なセキュリティが必要であることを示しています。ユーザーと管理者の両方が、潜在的な脅威から機密情報を保護するように注意する必要があります。
Slack ワークスペースのセキュリティ保護の詳細については、Slack の公式サポート ページにアクセスするか、セキュリティ チームにお問い合わせください。
Source: Slack AIを使用するとデータ漏洩の危険にさらされる
