論文の概要: Data-Void Exploits in Web-Searching LLMs

• arxiv url: http://arxiv.org/abs/2610.30365v1
• Date: Wed, 21 Oct 2026 19:28:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.118649
• Title: Data-Void Exploits in Web-Searching LLMs
• Title（参考訳）: Web 検索 LLM におけるデータボイドエクスプロイト
• Abstract要約: Web検索 大規模言語モデル(LLM)は、ユーザがオンライン情報を求める方法を変えた。 ランク付けされたリンクのリストを検索する代わりに、ユーザーは合成された回答を読む。 データボイドエクスプロイトは、単一の攻撃者制御ページでのみ成功する。
• 参考スコア（独自算出の注目度）: 4.497010121175535
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Web-searching Large Language Models (LLMs) have changed how users seek online information: instead of sifting through ranked lists of links, users read synthesized answers. This shift creates a new LLM vulnerability: a data-void exploit. Disinformers publish their narratives in search spaces where relevant and reliable content is scarce, i.e. data voids, then rely on the LLM's web-search to retrieve and then use, cite, or list those pages in its responses to data-void seeking prompts. Unlike classical search, where users see ranking cues and competing results, LLMs can obscure when an answer relies on sparse, unverified, or adversarial sources. We study this threat by varying the user's prompt tone - skeptical, excited, or neutral - and LLM choice - ChatGPT, Gemini, or Sonar Pro - as well as three attacker controls. The attacker can use one of five known strategies to construct and fill a data void with their narrative, host their content at varying levels of visibility from well-established, indexed domains to less established ones, and include generative-optimization engine features thought to boost citing by web-searching LLMs. We find that data-void exploits can succeed with only a single attacker controlled page. Across all conditions, attacker-content appears in LLM responses 31% of the time. User controls offer limited protection: while skeptical prompts slightly reduce success and slightly increase flagging or warnings in LLM responses, we find no evidence of large effects of prompt tone or model choice on success rates, although smaller effects cannot be ruled out. Overall, our results establish data voids as a practical inference-time attack surface for manipulating web-searching LLMs through strategically placed web content and highlight the urgent need for defenses against such exploits.
• Abstract（参考訳）: Web-searching Large Language Models (LLMs) は、ユーザーがオンライン情報を求める方法を変えた。 このシフトは、新たなLSM脆弱性、すなわちデータボイドエクスプロイトを生み出します。 ディスインフォーマーは、関連性があり信頼性の高いコンテンツが不足している検索スペース、すなわちデータヴォイド(英語版)を公開し、LLMのWeb検索に頼って、データヴォイド検索プロンプトに対する応答でそれらのページを検索し、引用し、リストアップする。 ユーザーがランキングや競合する結果を見る古典的な検索とは異なり、答えがスパース、未検証、あるいは敵対的な情報源に依存している場合、LLMは不明瞭になる。 我々は、ユーザのプロンプトトーン(懐疑的、興奮的、中立的)とLLM選択(ChatGPT、Gemini、Sonar Pro)、および3つのアタッカーコントロールを変化させることで、この脅威を調査する。 攻撃者は5つの既知の戦略のうちの1つを使って、ナラティブでデータ空白を構築し、コンテンツを、確立されたインデックス付きドメインから、確立されていないドメインまで、さまざまなレベルの可視性でホストし、Web検索のLLMによって引用されると思われる生成最適化エンジン機能を含むことができる。 データボイドのエクスプロイトは、単一の攻撃者制御ページでしか成功しない。 あらゆる条件において、攻撃内容はLLM応答の31%に現れる。 ユーザコントロールは限定的な保護を提供する: 懐疑的なプロンプトは成功をわずかに減少させ、LSM応答のフラグや警告をわずかに増加させるが、成功率に対するプロンプトトーンやモデル選択の大きな影響を示す証拠は見つからない。 その結果, 戦略的に配置された Web コンテンツを通じて Web 検索 LLM を操作するための実用的な攻撃面として, データ・ヴォイドが確立され, このような攻撃に対する防衛の緊急の必要性が浮き彫りにされた。

関連論文リスト

• The Innocent Courier: Covert Exfiltration Through Legitimate LLM Web Fetching [56.52163437439819]
  LLM(Large-Language-Models)とLLMベースのエージェントは、機密データをサードパーティにリークするリスクがある。 LLMLeakは、ローカルで動作する悪意のあるソフトウェアが、LLMを悪用して隠蔽チャネルを確立するために直接通信できない、新たな攻撃ベクトルである。 クライアント側の悪意あるソフトウェアコンポーネントは、秘密をURLに埋め込む。LLMがURLにアクセスすると、攻撃者は攻撃者が制御するDNSまたはWebサーバを介して暗号化された秘密を受け取る。
  論文  参考訳（メタデータ） (2026-10-01T14:25:55Z)
• DeGenTWeb: A First Look at LLM-dominant Websites [4.7586268097101945]
  本稿では,LLMが支配するWebサイトを体系的に識別するDeGenTWebについて述べる。 Web ページ上で LLM 生成テキストの検出に適応する方法を示す。 LLMが優位なサイトはCommon CrawlのデータとBingの検索結果の両方で広く利用されている。
  論文  参考訳（メタデータ） (2026-04-30T17:54:35Z)
• Friend or Foe: How LLMs' Safety Mind Gets Fooled by Intent Shift Attack [53.34204977366491]
  大きな言語モデル(LLM)は、印象的な機能にもかかわらず、ジェイルブレイク攻撃に対して脆弱なままである。 本稿では,攻撃意図について LLM を混乱させる ISA (Intent Shift Attack) を提案する。 私たちのアプローチでは、元の要求に対して最小限の編集しか必要とせず、自然で、可読性があり、一見無害なプロンプトをもたらす。
  論文  参考訳（メタデータ） (2025-11-01T13:44:42Z)
• A Survey on Large Language Model (LLM) Security and Privacy: The Good, the Bad, and the Ugly [21.536079040559517]
  大規模言語モデル(LLM)は、自然言語の理解と生成に革命をもたらした。 本稿では,LLMとセキュリティとプライバシの交わりについて考察する。
  論文  参考訳（メタデータ） (2023-12-04T16:25:18Z)
• ReEval: Automatic Hallucination Evaluation for Retrieval-Augmented Large Language Models via Transferable Adversarial Attacks [91.55895047448249]
  本稿では,LLMベースのフレームワークであるReEvalについて述べる。 本稿では、ChatGPTを用いてReEvalを実装し、2つの人気のあるオープンドメインQAデータセットのバリエーションを評価する。 我々の生成したデータは人間可読であり、大きな言語モデルで幻覚を引き起こすのに役立ちます。
  論文  参考訳（メタデータ） (2023-10-19T06:37:32Z)
• SmoothLLM: Defending Large Language Models Against Jailbreaking Attacks [99.23352758320945]
  SmoothLLMは,大規模言語モデル(LLM)に対するジェイルブレーキング攻撃を軽減するために設計された,最初のアルゴリズムである。 敵が生成したプロンプトが文字レベルの変化に対して脆弱であることから、我々の防衛はまず、与えられた入力プロンプトの複数のコピーをランダムに摂動し、対応する予測を集約し、敵の入力を検出する。
  論文  参考訳（メタデータ） (2023-10-05T17:01:53Z)
• Check Your Facts and Try Again: Improving Large Language Models with External Knowledge and Automated Feedback [127.75419038610455]
  大規模言語モデル(LLM)は、ダウンストリームタスクの多くに対して、人間のような、流動的な応答を生成することができる。 本稿では,プラグ・アンド・プレイモジュールのセットでブラックボックスのLSMを増強するLSM-Augmenterシステムを提案する。
  論文  参考訳（メタデータ） (2023-02-24T18:48:43Z)
• Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection [64.67495502772866]
  大規模言語モデル(LLM)は、様々なアプリケーションに統合されつつある。 本稿では、プロンプトインジェクション攻撃を用いて、攻撃者が元の命令をオーバーライドし、制御を採用する方法を示す。 我々は、コンピュータセキュリティの観点から、影響や脆弱性を体系的に調査する包括的な分類法を導出する。
  論文  参考訳（メタデータ） (2023-02-23T17:14:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。