論文の概要: Coverage Is Not Containment: A Fundamental Limit of Admission-Time Defenses Against Coordinated Poisoning of Vector Retrieval

• arxiv url: http://arxiv.org/abs/2608.16044v1
• Date: Mon, 17 Aug 2026 03:18:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.51296
• Title: Coverage Is Not Containment: A Fundamental Limit of Admission-Time Defenses Against Coordinated Poisoning of Vector Retrieval
• Title（参考訳）: カバーは含まれていない: ベクトル検索の協調的中毒に対する許容時間防御の基本的限界
• Abstract要約: Retrieval-augmented Generationは、ベクトルストアからのパスを取得し、それらをコンテキストとして信頼することで、質問に答える。 最近の、魅力的な防衛フィルターは、摂取時に毒を盛り、ハブのように振る舞う文書を拒絶する。 個々の文書を個別に注入するコーディネートされた敵に打ち負かされることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Retrieval-augmented generation (RAG) answers a question by retrieving passages from a vector store and trusting them as context, so anyone who can add documents can try to steer the answer. A recent, appealing defense filters poisoning at ingestion, rejecting any document that behaves like a hub. We show it -- and every ingestion-time filter -- is defeated by a coordinated adversary that injects a handful of individually unremarkable documents which together surround one target query and seize its top-k (on BGE-large / BEIR, m=10 documents take 10/10; 9.9/10 on a live HNSW index). The attack is not theoretical. Realized as ordinary fluent text and run end-to-end through a BGE-large + HNSW + Qwen2.5-7B pipeline, it makes the generator emit the attacker's planted claim in 88% of targets, versus 0% without the injection. And no admission-time defense stops it: at ingestion an attack cone is geometrically identical to a legitimate niche upload, so -- measuring this directly -- the strongest trained classifier, given every feature and thousands of examples, separates the two no better than chance, catching 4.2% of attacks at a 1% false-positive rate. We prove this limit for the entire class of ingestion-time statistics (any decision from documents and reference queries alone), and it reproduces -- and worsens -- across two corpora and five encoders. The one signal that separates an attack from legitimate niche ingestion -- a query's demand -- is invisible before retrieval, which is also the escape: a retrieval-time detector that observes demand catches 100% of the attacks at the same 1% false-positive rate. Coverage of the query space by an admission gate is not containment of coordinated poisoning; robust defense must move past the front door, to demand.
• Abstract（参考訳）: Retrieval-augmented Generation (RAG) は、ベクトルストアからのパスを取得し、それらをコンテキストとして信頼することで、質問に答える。 最近の、魅力的な防衛フィルターは、摂取時に毒を盛り、ハブのように振る舞う文書を拒絶する。 ターゲットクエリをひとつに囲み、そのトップkをキャプチャする(BGE-large / BEIRでは、m=10ドキュメントは、ライブHNSWインデックスで10/10; 9.9/10)。 攻撃は理論的ではない。 通常のフロートテキストとして実現され、BGE-large + HNSW + Qwen2.5-7Bパイプラインを介してエンドツーエンドで実行される。 侵入時に攻撃コーンは正当性のあるニッチアップロードと幾何学的に同一であるため、これを直接測定する強力な訓練された分類器は、あらゆる特徴と数千の例を考慮に入れれば、両者を偶然以上に分離し、攻撃の4.2%を1%の偽陽性率でキャッチする。 2つのコーパスと5つのエンコーダにまたがって、この制限を(ドキュメントと参照クエリだけでは決定できない)取り込み時間の統計のクラス全体で証明します。 攻撃を合法的なニッチな取り込み(クエリの要求)から切り離すシグナルは、検索の前に見えず、これもエスケープである。 入場口による問合せスペースの被覆は、調整された毒殺を含まない。

関連論文リスト

• Decomposition Attacks Across Unlinkable Identities: Limits of Stateful Defenses for LLM Services [56.0553456562323]
  ほとんどの大規模言語モデルはステートレスディフェンスを使用しており、これは有害なタスクを拒否する現在の要求のみを判断する。 分解攻撃は、有害なタスクを個別に許容される要求に分割し、回答を組み合わせることで、この制限を利用する。 達成可能なセキュリティとユーティリティのトレードオフは、同じ機能に対する良質な要求がどのようにグループ化されるかに完全に依存していることを示します。
  論文  参考訳（メタデータ） (2026-08-18T07:26:30Z)
• DenialRAG: Single-Document RAG Poisoning via Embedded Parametric Denial [7.434105792757549]
  EmphDenialRAGは,正しい回答を明示し,それを否定し,攻撃者による説明を提示する単一文書中毒攻撃である。 DenialRAGは、コンフリクトを直接ジェネレータが見るコンテキストに埋め込む。 我々はDenialRAGを3つのオープンドメイン質問回答データセットにまたがる4つの単一文書中毒攻撃に対して評価した。
  論文  参考訳（メタデータ） (2026-08-02T20:33:05Z)
• RAGuard: A Layered Defense Framework for Retrieval-Augmented Generation Systems Against Data Poisoning [0.0815557531820863]
  本稿では,パイプラインに対する擬似コーパス攻撃に対する層状防御であるRAGuardを紹介する。 第1層は、合成有毒文書(偽事実、矛盾、推論トラップ)に密集したレトリバーを微調整する。 2番目の層であるZeroKnowledge Patch ZKIPは、ラベルのないブラックボックスフィルタである。
  論文  参考訳（メタデータ） (2026-07-28T23:21:04Z)
• TriShieldRAG: A Three-Ring Defense-in-Depth Framework Against Knowledge Corruption in Retrieval-Augmented Generation [1.5474833458331865]
  Retrieval-Augmented Generationは、クエリ時に外部の知識ベースから取得したドキュメントを使用して、大きな言語モデルが質問に答えることを可能にする。 知識ベースが複数の当事者からの書き込みを受け付けている場合、攻撃者は選択された間違った回答に向けてモデルを操縦するために、少数の敵対的文書しか必要としない。 PoisonedRAGは、これを実証した:5つの人工文書が、修正されていないシステムの解答を約90%ひっくり返す。
  論文  参考訳（メタデータ） (2026-07-26T20:52:23Z)
• When Global Gating Is Enough: Admission-Time Hubness Control in Anisotropic Vector Retrieval Systems [0.0]
  挿入前,各候補をセンチネルクエリに対してスコアリングし,ハブライクな文書を隔離し,入場時間制御について検討した。 2つの10万のドキュメントコーパス、5つのエンコーダ、そして接続不能な攻撃者およびディフェンダークエリセットにまたがって、グローバルゲートは決定的な埋め込みスペースポイントでリコール1.0を達成する。 HNSWでは、摂取遅延が約3.1%増加し、スコアは106ベクトルに一定であり、決定の1.2%は近似インデックス化の下で反転する。
  論文  参考訳（メタデータ） (2026-06-18T01:40:36Z)
• Making MLLMs Blind: Adversarial Smuggling Attacks in MLLM Content Moderation [54.38271718421492]
  敵の密輸攻撃は人間とAIの能力ギャップを悪用する。 有害なコンテンツを人間の読みやすい視覚形式にエンコードする。 我々は緩和戦略の予備的な調査を行う。
  論文  参考訳（メタデータ） (2026-04-08T11:13:16Z)
• RAGShield: Detecting Numerical Claim Manipulation in Government RAG Systems [0.0]
  RAGシステムは、市民が対象とする税制指導、給付資格、法的情報のために連邦政府機関に展開されている。 この論文は、埋め込み型RAG防衛が基本的盲点を共有していることを証明している:5万ドルの税控除を変更することで、既知のあらゆる検知しきい値に見えないコサイン類似度0.9998が生成される。 盲点は実際のIRS文書で確認されている。
  論文  参考訳（メタデータ） (2026-04-01T02:16:42Z)
• Bias Injection Attacks on RAG Databases and Sanitization Defenses [9.638140849760108]
  本稿では,検索強化世代(RAG)システムにおけるベクトルデータベースに対する攻撃と防御について検討する。 バイアス注入攻撃は、事実的に正しいが、意味的に偏ったパスを知識ベースに挿入する。
  論文  参考訳（メタデータ） (2025-11-30T09:27:18Z)
• AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
  CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。 我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。 また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-08-04T09:53:50Z)
• Distributed Backdoor Attacks on Federated Graph Learning and Certified Defenses [50.53476890313741]
  我々は,FedGLに対する効果的な,ステルス的で永続的なバックドア攻撃を提案する。 我々は,任意の位置において任意の形状のトリガに対して,バックドアのFedGLモデルに対する認証された防御を開発する。 我々の攻撃結果は、ほぼ全てのデータセットで90%以上のバックドア精度が得られることを示している。
  論文  参考訳（メタデータ） (2024-07-12T02:43:44Z)
• Zero-Query Transfer Attacks on Context-Aware Object Detectors [95.18656036716972]
  敵は、ディープニューラルネットワークが誤った分類結果を生成するような摂動画像を攻撃する。 自然の多目的シーンに対する敵対的攻撃を防御するための有望なアプローチは、文脈整合性チェックを課すことである。 本稿では,コンテキスト整合性チェックを回避可能な,コンテキスト整合性攻撃を生成するための最初のアプローチを提案する。
  論文  参考訳（メタデータ） (2022-03-29T04:33:06Z)
• Improving the Adversarial Robustness for Speaker Verification by Self-Supervised Learning [95.60856995067083]
  この研究は、特定の攻撃アルゴリズムを知らずにASVの敵防衛を行う最初の試みの一つである。 本研究の目的は,1) 対向摂動浄化と2) 対向摂動検出の2つの視点から対向防御を行うことである。 実験の結果, 検出モジュールは, 約80%の精度で対向検体を検出することにより, ASVを効果的に遮蔽することがわかった。
  論文  参考訳（メタデータ） (2021-06-01T07:10:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。