論文の概要: Lazy Grounding: Attacking Search Agents with Factual Evidence

• arxiv url: http://arxiv.org/abs/2608.30303v1
• Date: Mon, 31 Aug 2026 06:19:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:31.25312
• Title: Lazy Grounding: Attacking Search Agents with Factual Evidence
• Title（参考訳）: Lazy Grounding: 事実上の証拠で検索エージェントを攻撃
• Abstract要約: 検索エージェントは、近くの質問に対する事実証拠によって誤解される可能性がある。 我々は、近くの証拠を用いて、ベンチマーク質問の回答変更による遅延グラウンドを露呈する。
• 参考スコア（独自算出の注目度）: 38.08746968388684
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Search agents reduce hallucination by grounding answers in retrieved web evidence. Yet reliance on retrieval also creates an attack surface: poisoned corpora with false or malicious documents can cause agents to reproduce misinformation. We show that falsehood is not necessary -- a search agent can be misled by factual evidence for a nearby question, adopting that nearby answer even when it does not answer the current question. We call this failure lazy grounding. We expose lazy grounding using nearby evidence from answer-changing rewrites of benchmark questions. Each document truthfully supports a neighboring rewritten question, but is surfaced for the original question. Across 12 model-benchmark pairs, nearby evidence reduces accuracy by 5.9 points on average and by up to 17.3 points, while inducing nearby-answer adoption in every setting. The effect is stronger when nearby evidence appears later or is more answer-shaped. Our results show that robust search agents must defend against not only misinformation but also the misapplication of factual evidence. The code is publicly available at https://github.com/frankyzha/lazy-grounding.
• Abstract（参考訳）: 検索エージェントは検索したWebエビデンスに回答を接地することで幻覚を減らす。 偽または悪意のある文書が混入した毒入りコーパスは、エージェントに誤報を再現させる可能性がある。 検索エージェントは、近くの質問に対する事実証拠によって誤解され、現在の質問に答えない場合でも、その近くの回答を採用することができる。 私たちはこの失敗を遅延グラウンド(lazy grounding)と呼ぶ。 我々は、近くの証拠を用いて、ベンチマーク質問の回答変更による遅延グラウンドを露呈する。 各文書は、近隣で書き直された質問を真に支持するが、元の質問に対して表面化される。 12組のモデルベンチマークペアで、近隣の証拠は平均で5.9ポイント、最大17.3ポイントの精度を低下させ、各設定で近隣の回答者の採用を誘導する。 この効果は、近くの証拠が後で現れるか、より答えの形になったときに強くなる。 以上の結果から,堅牢な検索エージェントは誤報だけでなく,事実的証拠の誤用も防ぐ必要があることが示唆された。 コードはhttps://github.com/frankyzha/lazy-grounding.comで公開されている。

関連論文リスト

• Diagnosing Search Behavior and Failure Modes in Long-Horizon Search Agents [63.2133766267587]
  ディープサーチエージェントは、証拠収集のために検索クエリを反復的に発行することで、難解な情報検索質問に答える。 本研究では,長軸探索エージェントの軌跡レベル診断を用いてこれらの質問について検討する。 我々は,各探索ステップで得られた証拠を評価し,エージェントの行動の2つの段階を分離する。
  論文  参考訳（メタデータ） (2026-08-03T08:46:48Z)
• DRNOISE: Benchmarking Deep Research Agents in Misleading Evidence Environments [51.049999642138]
  誤解を招く証拠の下で、回答回復のための100タスクのベンチマークであるDRNOISEを紹介する。 それぞれのタスクは、2つの間接的レコードチェーンが支持する固有の金の答えを持ち、ペアのノイズ条件は競合する答えを直接記述する1つのもっともらしい文書を付加する。 強いクリーンタスク性能を持つエージェント全体で、この単一の介入は66-88ポイントの精度低下を引き起こす。
  論文  参考訳（メタデータ） (2026-07-19T15:20:40Z)
• GroundEval: A Deterministic Replacement for LLM-as-Judge in Stateful Agent Evaluation [0.0]
  GroundEvalは, エージェントを接地的, 時間的に制限された, アクセス制御された証拠に対して評価する, 判断自由なフレームワークである。 GroundEvalはドメイン構成を使用して質問を生成し、エージェントが答える方法を選択し、最後に生成した回答と記録された軌跡の両方をスコアする。
  論文  参考訳（メタデータ） (2026-06-22T00:41:16Z)
• PATHWAYS: Evaluating Investigation and Context Discovery in AI Web Agents [0.0]
  PATHWAYSは250のマルチステップ決定タスクのベンチマークである。 Webベースのエージェントが、隠れたコンテキスト情報を発見し、正しく使用できるかをテストする。
  論文  参考訳（メタデータ） (2026-02-05T06:24:23Z)
• Attacks by Content: Automated Fact-checking is an AI Security Issue [1.5770741892463622]
  これまでの研究では、攻撃者が悪意のある指示を注入する間接的なプロンプトインジェクションが研究されてきた。 我々は、エージェントを操作するために命令の注入は必要ないと主張する。 隠れたコマンドを検出することに焦点を当てた既存の防御は、コンテンツによる攻撃に対して効果がない。
  論文  参考訳（メタデータ） (2025-10-13T10:18:48Z)
• The Missing Parts: Augmenting Fact Verification with Half-Truth Detection [20.011177314734887]
  多くの現実世界の主張は半真実であり、実際は正しいが、批判的な文脈が欠落しているために誤解を招く。 我々は,半真実検出の課題を紹介し,文レベルの証拠アライメントと推論されたクレーム意図を付加した15kの政治的クレームを備えた新しいベンチマークであるPolitiFact-Hiddenを提案する。 提案するTRACERは,エビデンスを整理し,インプリートを推定し,隠されたコンテンツの因果的影響を推定することにより,省略に基づく誤報を識別するモジュラー・リアセスメント・フレームワークである。
  論文  参考訳（メタデータ） (2025-08-01T10:06:38Z)
• Poisoning Retrieval Corpora by Injecting Adversarial Passages [79.14287273842878]
  本稿では,悪意のあるユーザが少数の逆行を発生させるような,高密度検索システムに対する新たな攻撃を提案する。 これらの逆行路を大規模な検索コーパスに挿入すると、この攻撃はこれらのシステムを騙すのに非常に効果的であることを示す。 また、教師なしと教師なしの両方の最先端の高密度レトリバーをベンチマークし、比較する。
  論文  参考訳（メタデータ） (2023-10-29T21:13:31Z)
• Complex Claim Verification with Evidence Retrieved in the Wild [73.19998942259073]
  Webから生の証拠を取り出すことによって,実世界のクレームをチェックするための,最初の完全自動化パイプラインを提示する。 私たちのパイプラインには,クレーム分解,生文書検索,きめ細かい証拠検索,クレーム中心の要約,正確性判定という5つのコンポーネントが含まれています。
  論文  参考訳（メタデータ） (2023-05-19T17:49:19Z)
• Fact-Saboteurs: A Taxonomy of Evidence Manipulation Attacks against Fact-Verification Systems [80.3811072650087]
  証拠のクレームサレントスニペットを微調整し,多様かつクレームアラインな証拠を生成することが可能であることを示す。 この攻撃は、主張のポストホックな修正に対しても堅牢である。 これらの攻撃は、インスペクタブルとヒューマン・イン・ザ・ループの使用シナリオに有害な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2022-09-07T13:39:24Z)
• Mining Fine-grained Semantics via Graph Neural Networks for Evidence-based Fake News Detection [20.282527436527765]
  本稿では,グラフベースのsEmantic sTructureマイニングフレームワークを提案する。 我々は、クレームとエビデンスをグラフ構造化データとしてモデル化し、長距離セマンティック依存関係をキャプチャします。 文脈意味情報を得た後、グラフ構造学習を行うことにより、情報冗長性を低減する。
  論文  参考訳（メタデータ） (2022-01-18T11:28:36Z)
• AmbiFC: Fact-Checking Ambiguous Claims with Evidence [57.7091560922174]
  実世界の情報ニーズから10kクレームを抽出したファクトチェックデータセットであるAmbiFCを提示する。 アンビFCの証拠に対する主張を比較する際に,曖昧さから生じる不一致を分析した。 我々は,このあいまいさをソフトラベルで予測するモデルを開発した。
  論文  参考訳（メタデータ） (2021-04-01T17:40:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。