職場のコミュニケーションに広く使用されているプラットフォームである Slack は、ユーザー データを利用して AI 機能を強化しています。
AI がアクセスする情報には、メッセージ、ファイル、その他のユーザー生成コンテンツを活用して、チャンネルのおすすめ、検索機能、オートコンプリート、絵文字の提案などの機能を向上させることが含まれます。
これらの機能強化はユーザー エクスペリエンスの合理化を目的としていますが、ユーザー データを利用する行為により、プライバシーと同意に関する懸念が生じています。
Slack の AI アルゴリズムを解読するのはユーザーデータが秘密の材料
Slack の AI トレーニングの中核は、プラットフォーム内でのユーザー インタラクションの使用にあります。 Slack の AI モデルは、メッセージ、ファイル、その他の通信形式のパターンを分析することで洞察を得て、それをさまざまな機能の改善に適用します。 このアプローチは、ユーザー エクスペリエンスを向上させるのに有益であるように見えますが、ユーザー データがどの程度アクセスされ、どのように利用されるかについて疑問が生じます。 もちろん、これは会社の考えです。 ユーザーはこの状況を非常に懸念しています。
企業の人工知能による許可として、プライベート メッセージ、企業情報、機密ファイルが含まれる可能性があるこのコンテンツにアクセスすると、倫理的な問題が生じ始めています。
デフォルトの包含が議論を引き起こす
Slack の AI トレーニングで最も議論の多い側面の 1 つは、デフォルトですべてのユーザーが含まれていることです。 これは、ユーザーまたは組織が特にオプトアウトしない限り、そのデータがトレーニング プロセスに自動的に含まれることを意味します。 この慣行は、データ収集を開始する前にユーザーに情報を提供し、データ収集に参加する選択肢を与えるべきだと考える人々から批判を集めています。
論争が明らかに: Slack の認識と対応
この問題は、DuckBill Group の幹部である Corey Quinn 氏が Slack の AI ポリシーを公に批判したことで注目を集めました。 これに対し、Slackは一部のAIツールのトレーニングにユーザーコンテンツを使用していることを認めた一方、顧客データは有料AIツールのトレーニングには使用されないことを明確にした。 同社はまた、組織やワークスペース管理者はトレーニング データセットからメッセージやコンテンツの削除を要求できるとも述べており、ユーザーが料金を支払うプラットフォームでなぜそのような要求が必要なのかという疑問が生じている。
ユーザーの懸念がソーシャルメディアで拡散
論争はソーシャルメディアプラットフォームX上でさらにエスカレートし、多くのユーザーがSlackはAIトレーニング機能をデフォルト設定ではなくオプションにするべきだったと主張した。 プライベートメッセージ、企業情報、機密ファイルが悪用される可能性があること、また個々のユーザーにとって簡単なオプトアウトメカニズムが存在しないことについての懸念が提起されました。
問い合わせに応じて、Slackの担当者は、同社のAIモデルは顧客データを学習、記憶、再現するように設計されていないと繰り返した。 彼らは、顧客がこれらの（非生成）AI モデルのトレーニングからデータを除外できることを強調しました。 しかし、この明確化は、データ使用に関する最初のコミュニケーションが不明確で誤解を招く可能性があると感じているユーザーの懸念を和らげるにはほとんど役立っていません。
紛らわしい説明: AI 政策に関する不一致の記述
Slack の人工知能ページにある「あなたのデータはあなたのデータです。Slack AI のトレーニングには使用しません」という声明は、混乱に拍車をかけている。同社は、有料の生産性の高い AI ツールは Slack ユーザーデータを使用してトレーニングされていないことを明確にしているが、他の AI モデルはそのようなデータを使用してトレーニングされていることを認めていることは、ユーザーデータがユーザーのみの手中にあるという考えと矛盾している。弁護士のエリザベス・ウォートンは、Slack の決定を「プライバシーの混乱」と呼び、個々のユーザーにとって簡単に逃げ道がないことを批判した。
Slack は、プラットフォームの機能を向上させることを目的としながら、AI トレーニングにユーザー データを使用するという行為を行っており、大きな論争を巻き起こしています。 ユーザーのデフォルトの包含、明確なコミュニケーションの欠如、プライバシーへの潜在的な影響により、デジタル時代における同意、透明性、倫理的なデータ使用に関する議論が活発化しています。 AI が私たちの生活のさまざまな側面でますます重要な役割を果たし続けるにつれて、ユーザー データとその利用をめぐる議論は、消費者と企業の両方にとって引き続き焦点となるでしょう。
注目の画像クレジット: Stephen Phillips – Hostreviews.co.uk / Unsplash
Source: Slack の AI はユーザーデータを活用しています
