論文の概要: Unveiling the Resilience of LLM-Enhanced Search Engines against Black-Hat SEO Manipulation

• arxiv url: http://arxiv.org/abs/2603.25500v1
• Date: Thu, 26 Mar 2026 14:38:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-27 20:52:48.337794
• Title: Unveiling the Resilience of LLM-Enhanced Search Engines against Black-Hat SEO Manipulation
• Title（参考訳）: ブラックハットSEO操作に対するLLM強化検索エンジンのレジリエンスの回避
• Authors: Pei Chen, Geng Hong, Xinyi Wu, Mengying Wu, Zixuan Zhu, Mingxuan Liu, Baojun Liu, Mi Zhang, Min Yang,
• Abstract要約: 大規模言語モデル強化検索エンジン(LLMSEs)は、Webスケール検索機能とAIによる要約を統合することで、情報検索に革命をもたらした。 これらのシステムは従来の検索エンジンよりも効率が向上したことを示しているが、確立されたブラックハット検索エンジン最適化(SEO)攻撃に対するセキュリティ上の影響は未解明のままである。
• 参考スコア（独自算出の注目度）: 28.63125598879503
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The emergence of Large Language Model-enhanced Search Engines (LLMSEs) has revolutionized information retrieval by integrating web-scale search capabilities with AI-powered summarization. While these systems demonstrate improved efficiency over traditional search engines, their security implications against well-established black-hat Search Engine Optimization (SEO) attacks remain unexplored. In this paper, we present the first systematic study of SEO attacks targeting LLMSEs. Specifically, we examine ten representative LLMSE products (e.g., ChatGPT, Gemini) and construct SEO-Bench, a benchmark comprising 1,000 real-world black-hat SEO websites, to evaluate both open- and closed-source LLMSEs. Our measurements show that LLMSEs mitigate over 99.78% of traditional SEO attacks, with the phase of retrieval serving as the primary filter, intercepting the vast majority of malicious queries. We further propose and evaluate seven LLMSEO attack strategies, demonstrating that off-the-shelf LLMSEs are vulnerable to LLMSEO attacks, i.e., rewritten-query stuffing and segmented texts double the manipulation rate compared to the baseline. This work offers the first in-depth security analysis of the LLMSE ecosystem, providing practical insights for building more resilient AI-driven search systems. We have responsibly reported the identified issues to major vendors.
• Abstract（参考訳）: 大規模言語モデル強化検索エンジン(LLMSEs)の出現は、Webスケール検索機能とAIによる要約を統合して情報検索に革命をもたらした。 これらのシステムは従来の検索エンジンよりも効率が向上したことを示しているが、確立されたブラックハット検索エンジン最適化(SEO)攻撃に対するセキュリティ上の影響は未解明のままである。 本稿では,LSMSEを標的としたSEO攻撃に関する最初の系統的研究について述べる。 具体的には,10 種類の LLMSE 製品 (例えば ChatGPT, Gemini ) について検討し,1000 個の実世界の Black-hat SEO ウェブサイトからなるベンチマークである SEO-Bench を構築し,オープンソースの LLMSE とクローズドソース LLMSE の両方を評価する。 我々の測定によると、LSMSEは従来のSEO攻撃の99.78%以上を緩和し、検索フェーズが一次フィルタとして機能し、悪意のあるクエリの大部分を傍受している。 さらに,LLMSEO攻撃戦略の7つの提案と評価を行い,LLMSEO攻撃に対して市販のLLMSEO攻撃が脆弱であることを示す。 この研究は、LLMSEエコシステムの詳細なセキュリティ分析を初めて提供し、よりレジリエントなAI駆動検索システムを構築するための実践的な洞察を提供する。 特定された問題を大手ベンダーに責任を持って報告しました。

関連論文リスト

• SearchAttack: Red-Teaming LLMs against Real-World Threats via Framing Unsafe Web Information-Seeking Tasks [19.28321072381512]
  このジレンマにより、Web検索を重要な攻撃面として認識し、red-teamingのためのtextbftextitSearchAttackを提案する。 SearchAttackはWeb検索に有害なセマンティクスをアウトソースし、クエリのスケルトンと断片化されたヒントのみを保持する。
  論文  参考訳（メタデータ） (2026-01-07T16:59:34Z)
• Source Coverage and Citation Bias in LLM-based vs. Traditional Search Engines [11.214205567807902]
  55,936のクエリと対応する検索結果を6つのLLM-SEと2つのTSEで分析する。 LLM-SEsはTSEよりも多様性の高いドメイン資源を引用していることを確認したが、実際、ドメインの37%はLLM-SEsに固有のものである。 私たちの調査結果は、エンドユーザ、Webサイトオーナー、開発者に対して、実用的な洞察を与えてくれます。
  論文  参考訳（メタデータ） (2025-12-10T10:01:26Z)
• Adversarial Attack-Defense Co-Evolution for LLM Safety Alignment via Tree-Group Dual-Aware Search and Optimization [51.12422886183246]
  大規模言語モデル(LLM)は、Webサービスにおいて急速に発展し、社会的リスクを増幅しつつ、前例のない能力を提供してきた。 既存の作業は、分離されたジェイルブレイク攻撃または静的防御に重点を置いており、現実世界のWebコンテキストにおける進化する脅威とセーフガードの間の動的な相互作用を無視している。 ACE-Safetyは、2つの重要な革新的手順をシームレスに統合することにより、攻撃と防御モデルを協調的に最適化する新しいフレームワークである。
  論文  参考訳（メタデータ） (2025-11-24T15:23:41Z)
• AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
  本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。 我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。 攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
  論文  参考訳（メタデータ） (2025-05-09T07:40:17Z)
• Ranking Manipulation for Conversational Search Engines [7.958276719131612]
  本稿では,対話型検索エンジンが参照するソースのランク付け順序に対するインジェクションのインジェクションの影響について検討する。 低品位製品を確実に促進する攻撃木を用いた脱獄技術を提案する。
  論文  参考訳（メタデータ） (2024-06-05T19:14:21Z)
• Benchmarking and Defending Against Indirect Prompt Injection Attacks on Large Language Models [79.0183835295533]
  我々は,このような脆弱性のリスクを評価するために,BIPIAと呼ばれる間接的インジェクション攻撃のための最初のベンチマークを導入した。 我々の分析では、LLMが情報コンテキストと動作可能な命令を区別できないことと、外部コンテンツ内での命令の実行を回避できないことの2つの主要な要因を同定した。 ブラックボックスとホワイトボックスという2つの新しい防御機構と、これらの脆弱性に対処するための明確なリマインダーを提案する。
  論文  参考訳（メタデータ） (2023-12-21T01:08:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。