現在、ほとんどの検索エンジンは AI によって生成された概要をデフォルトで備えているため、精度に対する懸念が生じ、クリックスルー トラフィックが減少します。テストの結果、Google の AI 概要はほぼ信頼できることが示されていますが、大量のクエリにより毎日何百万もの不正確さが生じています。
The New York Times によると、Google AI 検索の概要にはおよそ 10 件に 1 件に誤った情報が含まれているとのことです。 Google は年間約 5 兆件のクエリを処理しており、理論的にはユーザーは 1 時間あたり 5,700 万件以上、つまり 1 分あたり 100 万件近くの不正確な回答にさらされています。
これらの統計は、AI スタートアップの Oumi による分析から明らかになりました。この分析では、Google の AI アシスタントである Gemini の精度を評価するために 4,326 件の検索を調査しました。 Oumi は、Gemini バージョン 2 が 10 月に 85% の確率で正確な概要を提供したと報告しました。改良版の Gemini 3 では、2 月までに精度が 91 パーセントに向上しました。
ただし、Oumi の分析は AI ツールに依存しているため、エラーが発生する可能性もあります。さらに、Google は、同じクエリが数秒間隔で繰り返された場合に、異なる AI 概要を生成することがあります。
Googleの広報担当者は、Oumiのテストには欠陥があり、実際の検索行動を反映していないと批判した。 Google の内部評価によると、Gemini 3 は Google 検索から独立して機能している場合、28% の確率で幻覚を起こします。
調達に関しても重大な問題があります。 Google は、AI の概要を関連リンクで裏付けることを目指しています。しかし、これらのリンクの多くはジェミニの主張を裏付けるものではありません。 AI の概要とその引用元との間の不一致は、2 月のアップデート後の Gemini 2 の 37% から Gemini 3 の 56% に増加しました。
研究者らは、AI 概要の操作に対する脆弱性を強調しました。ある例では、BBC ジャーナリストが関与しており、その虚偽の主張が翌日 Google によって繰り返されました。 Google も他の AI 企業も、免責条項の中でこのテクノロジーの信頼性が低いことを認識しています。
