Twitch AI Seinfeld が禁止されたニュースは、人気のある放送プラットフォームによって下された決定の後、ソーシャル メディアに多くをもたらしました。 Twitch AI Seinfeld が禁止された理由とその背後にあるドラマに関する記事へようこそ。
「Nothing, Forever」は、12 月中旬から Twitch でストリーミングされている、終わりのない AI 生成番組です。 このショーには、1990 年代のコンピューター ゲームのヒット番組「となりのサインフェルド」のキャラクターに似た、ラリー、フレッド、イボンヌ、カクラーの 4 人のキャラクターが登場します。 セリフはOpenAIのGPT-3で作成し、音声技術は他社提供。 このショーは、OpenAI の GPT-3 と、「ディレクター」と呼ばれる Mismatch Media 独自の生成アルゴリズムの組み合わせによってまとめられています。
「Nothing Forever」と呼ばれる AI 搭載バージョンのとなりのサインフェルドは、ラリー ファインバーグとして知られるジェリー サインフェルドの AI バージョンがスタンドアップ ビットでトランスフォビアの声明を出した後、14 日間 Twitch から禁止されました。 AI ショーは、伝統的なとなりのサインフェルドのエピソードを模倣して作成され、何万人もの人々が視聴しています。 番組の AI は、古典的なシットコム エピソードとさまざまな AI ツールでトレーニングされており、ラリーのアパートに移動する前の起立ルーチンから始まります。
Twitch AI Seinfeld が禁止されたのはなぜですか?
この禁止は、日曜日の夜のスタンドアップ セットで AI が一連のトランス嫌悪および同性愛嫌悪の発言をした後に行われました。 Twitchは、ジョークが禁止の理由であるかどうかについてのコメントのリクエストにすぐに応答しませんでしたが、チャンネルが禁止される直前に発生し、プロジェクトのDiscordのユーザーは、禁止の理由としてこのジョークを指摘しました. 番組の Twitch ページに、Twitch のコミュニティ ガイドラインまたは利用規約に違反しているため、一時的に利用できないというメッセージが表示されるようになりました。
プロジェクトの Discord で、ショーのスタッフは、AI モデルを切り替える必要があり、それが「誤った動作」を引き起こしたとして、イベントを非難しました。 スタッフ メンバーは、Davinci が失敗し始めたときに、OpenAI の GPT-3 Davinci モデルからあまり洗練されていないモデルの Curie に切り替える必要があり、その結果、不適切なテキストが生成されたと書いています。 スタッフ メンバーは、OpenAI のコンテンツ モデレーション ツールは Davinci モデルでは機能したが、Curie モデルではうまくいかなかったとも述べています。 Davinci モデルの問題の根本原因は現在特定されており、Curie は今後フォールバックとして使用されません。
AI モデルは人間の価値を理解するのに苦労している
Twitch AI Seinfeld 禁止事件は、ほとんどの AI が直面する課題を象徴しています。 憎悪に満ちた、または偏見のある素材で AI をトレーニングすると、多くの場合、出力は憎悪に満ちた、または偏ったものになる可能性があります。 そのため、AI の安全性は、そのようなバイアスを軽減するためのツールを開発する重要な分野です。 多くの AI ツールは、発展途上国の低賃金労働者によって管理されています。 Nothing Forever のスタッフは Discord の大部分を読み取り専用にし、ユーザーがまだ投稿できるスレッドでは、多くのユーザーが Midjourney AI を使用して、トランス プライド フラグを保持している Jerry Seinfeld の画像を生成しています。
Midjourney AI とは何か知りませんか? Midjourney AI でアート イラストを作成する方法を確認します。
Twitch AI Seinfeld の禁止されたインシデントは、責任ある AI 開発の重要性と、AI モデルのバイアスを軽減する必要性を強調しています。 AI による憎悪や差別の拡散を防ぐには、AI の出力を監視および制御することが不可欠です。 ナッシング フォーエバーのスタッフは、この禁止令に異議を申し立て、今後このようなことが二度と起こらないようにするための正しい措置を講じました。 このリンクを介してプラットフォームから禁止が解除されるとすぐに、Seinfield AI を見ることができます。
Lensa AIもアーティストの作品を何度も盗み、ユーザーの同意なしにヌード写真を生成したという事実など、AI技術の精度は依然として議論の余地があります。 2023 年には、AI テクノロジがより人間的な方法で私たちに対応できるようになることを願っています。
