論文の概要: Consistency Is the Attack Surface: Detecting Coordinated Retrieval Poisoning with Embedding Geometry

• arxiv url: http://arxiv.org/abs/2610.24834v1
• Date: Sat, 17 Oct 2026 19:29:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-22 15:53:32.014542
• Title: Consistency Is the Attack Surface: Detecting Coordinated Retrieval Poisoning with Embedding Geometry
• Title（参考訳）: 衝突面は一貫性か? - 埋め込み幾何学による協調的検索行動の検出
• Abstract要約: CoordGuard氏はこの構造を、ロバストに正規化されたクエリ重み付き親和性から監査する。 4つの検索シードをポーリングすると、e5 always-filteringは$mathrmASR_mathrmexp$$ 0.167、パラメトリックに未知のクエリでは0.138と13.6ポイントのクリーンコストで減少する。
• 参考スコア（独自算出の注目度）: 6.5944301142591675
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Consistency-based defenses for retrieval-augmented generation (RAG) rest on an assumption that a sparse adversary breaks: a poisoning campaign may modify a negligible fraction of the corpus, yet retrieval concentrates its passages into the reader's context. Across four Natural Questions retrieval seeds, at least one injection reaches the top-5 in 94.1% of targeted query--seed rows, and all three form a retrieved majority in 52.9%. Under our short-answer protocol, RobustRAG and ReliabilityRAG reach exposure-conditional attack success 0.512, against 0.576 for undefended RAG, while lowering clean accuracy from 0.328 to 0.216. Coordination, however, leaves a fingerprint: a dense, query-anchored component in the evidence embedding geometry. CoordGuard audits this structure from robustly normalized query-weighted affinities, without poison labels, correct answers, or reader gradients. Its always-filter mode suppresses the selected component whenever one forms; a benign-calibrated gate suppresses it only at unusually high scores and traces a robustness--utility frontier. Pooling four retrieval seeds, e5 always-filtering reduces $\mathrm{ASR}_{\mathrm{exp}}$ to 0.167 overall and 0.138 on parametrically unknown queries, at a 13.6-point clean cost, while a Contriever gate retains clean accuracy 0.315 at $\mathrm{ASR}_{\mathrm{exp}}=0.331$. The reduction transfers across two readers, three tasks, and multiple retriever--auditor pairs, and count-matched controls attribute it to component-targeted removal rather than deletion volume. These findings recast poison detection from judging truth to auditing the structure of retrieved evidence.
• Abstract（参考訳）: 検索強化世代(RAG)の一貫性に基づく防御は、わずかな敵が壊れるという仮定に基づいている: 毒殺キャンペーンは、コーパスの無視できる部分を変更するが、検索はそのパスを読者のコンテキストに集中させる。 4つのNature Questions検索シードのうち、少なくとも1つのインジェクションは、ターゲットとするクエリシード行の94.1%でトップ5に到達し、3つ全てが52.9%で検索された多数を占めた。 我々のショートアンサープロトコルでは、ロバストRAGとReliabilityRAGは露光条件による攻撃成功0.512、未防御RAGは0.576、クリーン精度は0.328から0.216に低下した。 しかし、コーディネーションは指紋を残している: 幾何学を埋め込んだ証拠の中に、密集したクエリアンコレートな要素である。 CoordGuard氏はこの構造を、ロバストに正規化されたクエリ重み付き親和性から監査する。 良性校正ゲートは異常に高いスコアでのみそれを抑制し、堅牢性のあるフロンティアをトレースする。 4つの検索シードをプールすると、e5 always-filtering は$\mathrm{ASR}_{\mathrm{exp}}$を 0.167 に減らし、パラメトリックに未知のクエリに対して 0.138 を 13.6 ポイントのクリーンコストで、Contriever gate は $\mathrm{ASR}_{\mathrm{exp}}=0.331$でクリーンな精度 0.315 を維持する。 2つの読み手、3つのタスク、複数のレシーバー-オーディタペア、およびカウントマッチングコントロール間での転送は、削除ボリュームではなく、コンポーネントターゲットの削除によるものである。 これらの知見は, 真理を判断することから, 回収された証拠の構造を検査することまで, 毒の発見を再確認するものである。

関連論文リスト

• LENS: The Sum Is Worse Than the Parts for Set-Level Poisoning in Retrieval-Augmented Generation [12.273352132667751]
  制約された証拠構成として構築をキャストする枠組みを提案する。 4つのベンチマークと3つのジェネレータで、返送パケットは0.852のフルセットのASRと0.784のASR@5を達成する。 盲目の人間の監査では、返却パケットの68.3%が不正なターゲット、明確な解答基準シフト、およびターゲットの含意を組み合わせている。
  論文  参考訳（メタデータ） (2026-09-28T13:33:32Z)
• DRSR: Learning Set-Level Deletion Risk for Efficient Long-Horizon Agents [55.84813053778976]
  ロングホライゾン言語モデルエージェントは、現在の決定と関係が変化する推論の痕跡、ツール交換、観察を蓄積する。 直接セットリスクスコアは、削除セットの選択としてエージェント履歴圧縮リスクを定式化する。 メカニカル・アナリシスとアブリケーションは、決定に制約のある関係、保持されたコンテキスト情報、ペア・インタラクション、および棄権がそれぞれ信頼できるプルーニングに寄与していることを示している。
  論文  参考訳（メタデータ） (2026-09-23T03:06:01Z)
• TRIS: A Tri-Layer Retrieval Integrity Sieve Against Knowledge Poisoning [6.613886785198943]
  Tri-Layer Sieveは、クロスエンベディング空間クラスタリングによって得られた証拠を衛生化する。 1つの文書は1つの埋め込み幾何学、1つの内部Trigger-Payload構造、1つの世代目標を満たさなければならない。
  論文  参考訳（メタデータ） (2026-08-31T23:21:27Z)
• Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection [0.0]
  本稿では,検索境界ディフェンスを用いた3層マルチエージェント侵入検出フレームワークであるRAG-IDSを提案する。 即時注入では、複数文書検索ではラベルフリップが0.6-2.4%に制限され、シングルドキュメント検索では35-55%に制限された。
  論文  参考訳（メタデータ） (2026-08-08T12:29:47Z)
• TriShieldRAG: A Three-Ring Defense-in-Depth Framework Against Knowledge Corruption in Retrieval-Augmented Generation [1.5474833458331865]
  Retrieval-Augmented Generationは、クエリ時に外部の知識ベースから取得したドキュメントを使用して、大きな言語モデルが質問に答えることを可能にする。 知識ベースが複数の当事者からの書き込みを受け付けている場合、攻撃者は選択された間違った回答に向けてモデルを操縦するために、少数の敵対的文書しか必要としない。 PoisonedRAGは、これを実証した:5つの人工文書が、修正されていないシステムの解答を約90%ひっくり返す。
  論文  参考訳（メタデータ） (2026-07-26T20:52:23Z)
• SentinelRAG: Synthetic Sentinel Knowledge for RAG Database Copyright Protection [44.7327467106684]
  SentinelRAGは、スタイル一貫性はあるが架空の知識エントリをRAGデータベースに埋め込む。 我々の重要な洞察は、虚偽の実体を記述する合成知識は、正当なクエリーによって回収される可能性は低いということである。 本手法は,正規ユーザクエリに対する無視可能な干渉を維持しつつ,誤検出率を大幅に低減する。
  論文  参考訳（メタデータ） (2026-06-04T07:19:56Z)
• RAG over Thinking Traces Can Improve Reasoning Tasks [45.57562898423325]
  Retrieval-augmented Generation (RAG) は知識集約的なタスクに有効であることが証明されているが、推論集約的な問題に対して限られた利益をもたらすと広く信じられている。 本稿では,問題解決の過程で発生する思考軌跡,すなわち中間的思考軌跡の検索を提案する。 これらのトレースをコーパスとして使用すると、単純な検索列生成パイプラインは推論性能を一貫して改善する。
  論文  参考訳（メタデータ） (2026-05-05T04:03:28Z)
• BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
  マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。 両課題に対処する統合フレームワークであるBadCLIP++を提案する。 ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。 持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
  論文  参考訳（メタデータ） (2026-02-19T08:31:16Z)
• SpatialBench-UC: Uncertainty-Aware Evaluation of Spatial Prompt Following in Text-to-Image Generation [0.0]
  SpaceBench-UCは、ペアの空間関係を再現可能な小さなベンチマークである。 ベンチマークパッケージ、バージョン付きプロンプト、ピン付き構成、サンプルごとのチェッカー出力、レポートテーブルをリリースします。 安定拡散1.5, SD 1.5 BoxDiff, SD 1.4 GLIGENの3つのベースラインについて検討した。
  論文  参考訳（メタデータ） (2026-01-19T23:37:10Z)
• Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
  暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。 Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。 SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
  論文  参考訳（メタデータ） (2025-09-25T14:05:55Z)
• ConQueR: Query Contrast Voxel-DETR for 3D Object Detection [47.51610366092525]
  ConQueRは、挑戦的なOpenデータセット検証セットに基づいて、新しい最先端(ソータ)71.6 mAPH/L2を実現する。 当社のシングルフレームConQueRは、挑戦的なOpenデータセット検証セット上で、新しい最先端(ソータ)71.6 mAPH/L2を実現しています。
  論文  参考訳（メタデータ） (2022-12-14T15:44:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。