Google、画像精度への懸念からGemini AIを停止

Google の「Gemini AI は目覚めた」論争は最近、AI の限界と、多様な表現と歴史的正確性のバランスをとる AI の苦闘についての議論を引き起こしました。

この論争は、多様性の目標と事実の表現との間のバランスに関する疑問とともに、AI の潜在的なバイアスに関する議論を引き起こしました。詳細は次のとおりです…

Gemini AI が論争を巻き起こした: 知っておくべきことすべて

この論争は、GoogleがGemini AIによる人物画像の生成を許可したことから始まった。 AI は、歴史的に白人の文脈で有色人種を頻繁に描写しました (たとえば、ヴァイキングの画像はもっぱら黒人として描写されました)。これにより、不正確さの非難と、AI システム内での多様性目標の役割についての議論が生まれました。これに応じて、Google は画像ジェネレーターが人物の画像を作成する機能を一時的に無効にしました。

Gemini AI の何が問題だったのでしょうか?

Google は最近、自社の Gemini AI モデルを認めました。的を外した”。この論争は、歴史的正確性が犠牲になっても、人種や性別の多様性を優先する画像をAIが生成することに集中している。これにより、次のような状況が発生しました。

ヴァイキングはもっぱら黒人として描かれていました。
ジョージ・ワシントンは黒人として描かれていました。
教皇は非白人として示されています。
エイブラハム・リンカーンのような白人の歴史上の人物の画像を制作できなかった。

Gemini AI が論争を引き起こしたことについて知っておくべきこと — **GoogleのGemini AIは、事実の正確さよりも多様性を重視し、歴史上の人物を不正確に表現して物議を醸した** (画像クレジット)

議論の中の声

Gemini AI が目覚めたという論争は、さまざまな反応を引き起こしました。右翼の評論家はこの問題をビッグテック内部の反白人偏見の証拠として組み立て、政治的利益のために状況を武器にすることが多い。ゲイリー・マーカスのような AI 専門家は、これをソフトウェア自体の失敗とみなし、生成 AI システム内での微妙な理解の欠如を強調しています。

Googleはこの問題を認識しているものの、Geminiに同社の世界的なユーザーベースを反映させる試みであると説明している。彼らは修正に取り組んでおり、歴史的文脈の解釈と表現においてより大きなニュアンスの必要性を強調しています。

Gemini AI アルゴリズムとは何ですか?

Gemini AI は、テキストの説明に基づいてオリジナルの画像を作成する Google AI の強力なツールです。これは、高度な機能で知られる、より大規模な Gemini モデルファミリの一部です。 Gemini AI は、自然言語処理 (NLP) を使用してユーザーのリクエストを理解し、その膨大な知識を適用して、入力されたキーワードに合わせたビジュアルを作成します。

Gemini AI を使用するにはどうすればよいですか?

現在、Gemini AI へのアクセスは制限されています。ただし、同様の画像生成ツールは、多くの場合、次の手順を実行します。

テキストによる説明を入力します: 最良の結果を得るには、できるだけ詳細かつ創造的にしてください。
パラメータの設定 (オプション): 一部のツールでは、画像スタイル、解像度、またはアスペクト比を選択できる場合があります。
生成する: AI はリクエストを処理し、説明に基づいていくつかの画像オプションを作成します。

AI 表現の課題

Gemini AI 覚醒事件は、包括性や多様性などの前向きな目標と、虚偽表示の可能性とのバランスをとることの難しさを浮き彫りにしました。この状況では、AI が歴史的に支配的な役割を果たしている特定の集団を不正確に描写した場合、有害な固定観念を強化する可能性を含め、いくつかの重要な課題が生じます。また、AI が社会的課題を優先して現実世界の真実を上書きしているとユーザーが感じた場合、信頼を損なう可能性があります。これは AI システムの普及と有益な利用に不可欠です。

最後に、これらの不正確さは、AI システムがトレーニングされたデータの偏りを反映していることが多く、有害な虚偽表示の可能性を減らすために継続的に対処する必要がある AI システム内の広範な問題を浮き彫りにしています。