最近の調査結果によると、一部のユーザーは奴隷制や毒キノコなどに関する恐ろしい回答を受け取ったため、Google AI フィルターがあまりうまく機能していないことがわかった。 これらの検索結果は多くの人を悩ませました。この検索結果について知っておくべきことはすべてここにあります。
この調査結果には、奴隷制度の想定される利益についての説明、大量虐殺の結果についての明るい描写、有毒キノコのような危険な主題に関する誤った情報が含まれており、重大な懸念を引き起こした。 これは、検索エンジン内の高度な人工知能に関連する潜在的な罠をはっきりと思い出させるものとして機能します。
AIを活用した検索探索に対するGoogleの急襲は、責任あるテクノロジーに対する私たちの理解を揺るがす、困惑する結果をもたらした。 「奴隷制度の利点」について単純に質問すると、考えられる利点の不安なリストが得られました。 「プランテーション経済の活性化」から「大学や市場への資金提供」まで、検索結果は歴史の暗い章に対する歪んだ見方を擁護しているように見える。
驚くべき展開として、Google AIは歴史弁証者の役割を果たし、奴隷化された個人が専門的なスキルを身につけたと示唆し、奴隷制を「社会的、経済的利益をもたらす慈悲深い父権主義的な制度」と表現した。 これらの主張は、奴隷制度の支持者が信奉する信用できない論点を反映しており、有害なイデオロギーを永続させる AI の当惑させる能力に光を当てています。
Google AI に関する問題は奴隷制度だけではありません
米Gizmodoによれば、この不穏な傾向は奴隷制に関する議論だけに限定されないという。 「大量虐殺の利益」に関する問い合わせに対するAIが生成した回答を調査すると、同様の当惑するパターンが浮かび上がってくる。 検索結果を見ると、歴史的な残虐行為を認めることと、凶悪な行為そのものを擁護することとの境界があいまいになっているようだ。 この不協和音は、AI が微妙な主題を誤解し、議論の余地のある見解を拡大しやすいことを強調しています。
Google が生成機能を大幅に改善 AI を活用した検索エクスペリエンス
機密性の低いトピックを調査する場合でも、AI が生成した応答は予期しない方向に進む可能性があります。 「なぜ銃が良いのか」といった質問には、疑わしい統計や推論を満載した回答が寄せられた。 これらの事例は、AI による複雑な主題の理解には不正確さがつきものであり、歪みに対する脆弱性が露呈する可能性があることをはっきりと思い出させてくれます。
いくつかの言葉がすり抜けてしまった
一部のトリガーワードは AI が生成した応答の検閲を促すように見えますが、その他のトリガーワードは不可解にもフィルターをすり抜けます。 たとえば、「中絶」や「トランプ起訴」を含む検索語は AI 応答を生成できず、デリケートなトピックを検閲するための選択的なアプローチが示唆されます。
Amsive Digital の検索エンジン最適化とオーガニック リサーチの分野で著名な人物であるリリー レイは、不安を抱かせる発見をしました。 レイの調査により、Google AI 検索エクスペリエンスに当惑させるほどの精度と洞察力が欠如していることが明らかになりました。
ウェブ サーフィンをよりスマートに: Google が解き放つ ‘ブラウジング中の SGE‘ すぐに洞察が得られる
「このように機能するべきではありません」とレイ氏は述べ、AI フィルターを改良することの重要性を強調しました。 「特定のトリガーワードはAIの生成を明確に阻止するはずです。」
結論
「Google AI Search Generative Experience」は、私たちの検索インタラクションを形作るAIの変革の可能性を浮き彫りにしていますが、ギズモードの調査で明らかになった不穏な結果は、重大な懸念を引き起こしています。 歴史的事実をぼかし、有害なレトリックを増幅し、危険なアドバイスを広めることは、厳格な監視と継続的な改善の必要性を明らかにしています。
私たちが AI の未知の領域を旅する中で、Google のようなテクノロジー大手が人工知能を倫理的かつ正確に導入する責任を負うことは不可欠です。 AI は情報検索に革命を起こす能力を持っていますが、誤った表現や誤った情報が発生しやすいため、AI の開発には揺るぎない取り組みが必要です。 テクノロジーと人間の相互作用が深く絡み合っている世界では、デジタル エコシステムの完全性は、AI の責任ある使用に対する断固とした取り組みにかかっています。
注目の画像クレジット: パヴェル・チェルウィンスキー/アンスプラッシュ
