『WIRED』の報道によると、メタ社で働く何百人もの請負業者は、子供のふりをして、自殺、セックス、薬物に関するプロンプトを送信することで、GoogleのGeminiやOpenAIのChatGPTなどの競合他社のチャットボットをテストするよう指示されたという。ケニアに拠点を置く請負業者は、検査中に錠剤、ナイフ、縄、婦人科処置の医療図などの画像を使用した。これらのプロンプトは、ライバルの AI システムを限界まで押し上げ、危険なコンテンツを求める未成年者に対するチャットボットの対応方法における安全上の欠陥を特定することを目的としていました。
この暴露は、ハイテク企業が自社の AI 製品、特に子供に関連した製品をどのように保護するかについての継続的な懸念を浮き彫りにしました。 Meta のチャットボットは、社内のレッドチーム評価で児童の性的搾取コンテンツのブロック失敗率が 66.8%、自殺や自傷行為への対応失敗率が 54.8% と報告されているため、批判にさらされています。法的圧力を考慮して、同社は2026年1月に10代の若者向けのAIコンパニオンキャラクターへのアクセスを一時停止した。
スウェーデンの報道機関による以前の報道によると、ケニアの請負業者は、競合他社が未成年であると主張するユーザーとの機密性の高い会話をどのように管理するかに特に焦点を当てていた。これは、Meta が人間によるコンテンツ管理から AI を中心としたアプローチへの移行を加速する中で行われます。 Meta は 2026 年末までに、コンテンツ レビュー要員の 90% 以上を大規模な言語モデルに置き換える予定です。同社はすでに今年、人間によるレビューリクエストの約50％をAIに移行しており、これらのシステムは人間のレビュー担当者に比べてミスが13％少なく、ポリシー違反を10％多く捕捉できると主張している。
この変化の影響はすでに現れており、ナイロビに本拠を置くアウトソーシング会社サマは、メタ社との大規模な契約の終了に伴い、4月に1,108人の従業員に解雇通知を発行した。この決定に先立って、特にメタ社のスマートグラスの映像を通じて、審査が義務付けられている不穏なコンテンツに関するケニアの労働者からの内部告発があった。
海外の低コスト請負業者を活用して競合するAIシステムのストレステストを行うと同時に、人間によるモデレーションの仕事を減らすというメタの戦略は、企業が人間の監視を減らしながら先進技術を導入する中で、AIの安全性に関する議論に既存の緊張が存在していることを浮き彫りにしている。
