ニューヨークタイムズ紙によると、6月27日、英国のデイリーメール紙のビデオで問題が発生しました。 Facebookは、国民の抗議の結果としてAIの運用を評価するための推奨機能を謝罪し、無効にしました。
このイベントは、AIが複製する人種差別的および性差別的な行動の長いリストに追加されるだけです。 Facebookなどのソーシャルメディアサイトが、他の人種を複数回差別しながら、白人の写真をどのように強調するかについて説明しました。
霊長類に関するビデオがユーザーに推奨され、黒人男性と白人男性が主張しているのが見られました。 英国のメディアからの報道によると、白人男性は他の人に対して虐待し、警察に通報しなければなりませんでした。しかし、ビデオの主題に関係なく、Facebookはビデオの後に次のメッセージを提案しました。霊長類について？」
デイリーメールはFacebookを最初に批判したが、最初は間違いが明らかにされなかった。 その後、Facebookはニューヨークタイムズに非難しました。「前にも言ったように、AIは進歩しましたが、完璧ではなく、やるべきことがたくさんあります」。
何が起こったのかを調べ、再発を防ぐために、WhatsAppとInstagramも所有している会社は、コアソーシャルネットワークの推奨機能を無効にしました。
その他のエラー
「私たちは毎日、人工知能だけに頼ることの限界、偏見、そしてまったくのばかげたことを目にしています。 それでも、私たちは自分たちがモルモットになることを許可し続けています」と、ニューヨークタイムズのサイバーセキュリティライターであるニコールペアロートはこの例に応えて述べました。
人工知能は、人間がお互いに偏見を継承する傾向があるという規則の例外ではありません。 ここ数週間、Twitterもこの現実に直面しなければなりませんでした。そのスマートなアルゴリズムは、若い白人の写真を優先します。
人工知能を使用するプログラムは、関数のトレーニングにサンプルまたはパラメーターのセットに依存することが多いため、偏りがあります。 サンプルが限られており、1つの人種または性別からの画像が多数含まれている場合、人工知能がこれらの基準に一致しない残りの人類を特定することは困難です。