Google AIの概要は検索結果が少し「スマート」すぎるとして危険信号を発する

Google 検索は、私たち全員がほぼ反射的に使用するツールであり、その動作の変更は、オンラインで情報を見つける方法に大きな影響を与える可能性があります。

最近、Google は Google SGE という機能を導入し、一部の検索結果に AI が生成した概要が含まれるようになりました。最近では 一部の米国ユーザーに影響を与える限定的な展開AIが要約した結果を特徴とするGoogleの新機能は、 節度に関する懸念を提起した。

Google はこれが役に立つことを意図していますが、これらの概要には重要な意味があるようです。 意図せぬダークサイド。懸念すべき上昇傾向が見られる 詐欺サイトやマルウェアサイトが注目されている これらの AI の概要では、

AI が生成した概要の何が重要なのでしょうか?

この機能の背後にある考え方は非常に単純です。Google は、ユーザーが多数の Web サイトにアクセスすることなく、すぐに答えを提供したいと考えています。「カップに大さじ何杯」などの一部のクエリでは、AI の概要が非常に役立ちます。ただし、AI が生成した回答が不完全であったり、誤解を招くものであったり、まったく間違っていたりする場合もあります。

さらに心配なことに、彼らは時々 危険なコンテンツを積極的に宣伝する。

発見者 Xのリリー・レイGoogle の AI を活用した検索である SGE は、回答の一部としてスパムサイトを推奨しています。

ああ、いいね。
SGE は、その回答の一部としてスパムサイトを推奨することもあります。 pic.twitter.com/wqgFFXqbMB
— リリー・レイ (@lilyraynyc) 2024 年 3 月 22 日

これはオンラインの安全性に大きな影響を与えます。検索エンジンはインターネットへのゲートウェイであり、多くのユーザーは上位の結果を暗黙的に信頼しています。 AI が生成した正当な回答のように見える要約は、詐欺行為にさらなる信頼性を与える可能性があります。

Google AI はどのように騙されて詐欺に値する概要を作成しているのでしょうか?

SEO (検索エンジン最適化) の専門家やそれほど几帳面ではない Web サイト所有者は、サイトのランキングを上げるために検索アルゴリズムを長年操作してきました。現在、これらと同じ手法が、要約をハイジャックする目的で、誤解を招く情報を Google の AI に供給するために使用されています。

これがどのように機能するかの例を次に示します。

詐欺のセットアップ：詐欺師が、iPhone の大幅値引きなど、うますぎる取引を提供する Web サイトを作成
アルゴリズムゲーム: 彼らは、たとえそれが偽のレビューや技術的な意味不明なもので満ちていたとしても、関連性があるように見えるように設計されたキーワードやコンテンツをサイトに詰め込みます。
AI の裏をかく: Google の AI は、サイトをスキャンして情報を探しますが、欺瞞的なパターンを見逃し、そのサイトが素晴らしいリソースであると思い込まされてしまいます。
危険なまとめ: 誰かがその製品に関連する情報を検索すると、AI は詐欺サイトを目立つように特集した概要を生成します

Google SGE の危険なコンテンツ — **危険なコンテンツを宣伝する AI 概要が検索結果の信頼を損なう** (画像クレジット)

機械を（完全に）信用しないでください

Googleは悪意のあるコンテンツを検出して除外するAIの能力を向上させることを期待しているが、リスクを認識することが重要である。

安全を確保する方法は次のとおりです。

ソースを再確認する: AI の概要であっても、それが提案する Web サイトを少し時間をかけて調べてください。危険な Web アドレス (.online などの異常なトップレベルドメインなど)、一般的なサイトデザイン、または類似しすぎると思われる過剰な熱烈なレビューの兆候を探します。
従来の検索は依然としてあなたの味方です: 標準の検索結果のスクロールを完全に放棄しないでください。確立された信頼できるサイトは、依然として最も正確な情報を提供していることがよくあります
懐疑は盾になる: 取引がありえないほど良いように思えても、それはほぼ確実に良いものです。 Google の概要がそれを推奨しているように見えても、あまりにうますぎるオファーに惑わされないでください。