論文の概要: ProGRank: Probe-Gradient Reranking to Defend Dense-Retriever RAG from Corpus Poisoning

• arxiv url: http://arxiv.org/abs/2603.22934v2
• Date: Fri, 27 Mar 2026 20:58:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 13:48:18.794157
• Title: ProGRank: Probe-Gradient Reranking to Defend Dense-Retriever RAG from Corpus Poisoning
• Title（参考訳）: ProGRank:コーポレート・ポジショニングからDense-Retriever RAGを擁護する調査を再開
• Authors: Xiangyu Yin, Yi Qi, Chih-Hong Cheng,
• Abstract要約: Retrieval-Augmented Generation (RAG) は、検索された証拠に生成を基礎づけることで、大規模言語モデルの信頼性を向上させる。 相手がパスを注入または編集して、ターゲットクエリのTop-K$結果にランク付けし、下流生成に影響を与えるようにします。 本稿では,高密度レトリバーRAGのためのポストホック,トレーニングフリーレトリバーサイドディフェンスであるProGRankを提案する。
• 参考スコア（独自算出の注目度）: 5.725082598014574
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Retrieval-Augmented Generation (RAG) improves the reliability of large language model applications by grounding generation in retrieved evidence, but it also introduces a new attack surface: corpus poisoning. In this setting, an adversary injects or edits passages so that they are ranked into the Top-$K$ results for target queries and then affect downstream generation. Existing defences against corpus poisoning often rely on content filtering, auxiliary models, or generator-side reasoning, which can make deployment more difficult. We propose ProGRank, a post hoc, training-free retriever-side defence for dense-retriever RAG. ProGRank stress-tests each query--passage pair under mild randomized perturbations and extracts probe gradients from a small fixed parameter subset of the retriever. From these signals, it derives two instability signals, representational consistency and dispersion risk, and combines them with a score gate in a reranking step. ProGRank preserves the original passage content, requires no retraining, and also supports a surrogate-based variant when the deployed retriever is unavailable. Extensive experiments across three datasets, three dense retriever backbones, representative corpus poisoning attacks, and both retrieval-stage and end-to-end settings show that ProGRank provides stronger defence performance and a favorable robustness--utility trade-off. It also remains competitive under adaptive evasive attacks.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG)は、検索された証拠に生成を接地することで、大規模言語モデルの信頼性を向上させるが、新たな攻撃面であるコーパス中毒も導入する。 この設定では、相手がパスを注入または編集して、ターゲットクエリのTop-K$結果にランク付けし、下流生成に影響を与える。 既存のコーパス中毒に対する防御は、しばしばコンテンツフィルタリング、補助モデル、またはジェネレータ側の推論に依存しており、デプロイメントをより困難にしている。 本稿では,高密度レトリバーRAGのためのポストホック,トレーニングフリーレトリバーサイドディフェンスであるProGRankを提案する。 ProGRankは、緩やかなランダム化摂動の下で各クエリ-パスペアをテストし、レトリバーの小さな固定パラメータサブセットからプローブ勾配を抽出する。 これらの信号から、2つの不安定信号、表現的一貫性と分散リスクを導出し、再ランクステップでスコアゲートと組み合わせる。 ProGRankは元のパスの内容を保持し、再トレーニングを必要とせず、デプロイされたレトリバーが利用できない場合にサロゲートベースの変種をサポートする。 3つのデータセット、密集した3つのバックボーン、代表的コーパス中毒攻撃、および検索ステージおよびエンドツーエンド設定の広範な実験は、ProGRankがより強力な防御性能と良好な堅牢性-ユーティリティトレードオフを提供することを示している。 また、アダプティブ・エスケープ・アタックの下でも競争力を維持している。

関連論文リスト

• Rethinking the Reranker: Boundary-Aware Evidence Selection for Robust Retrieval-Augmented Generation [64.09110141948693]
  Retrieval-Augmented Generation (RAG) システムは、現実的な検索ノイズの下でも不安定である。 そこで我々は,BAR-RAGを提案する。このBAR-RAGは,発電機のGoldilocks Zoneをターゲットとした境界認識型エビデンスセレクタである。 Bar-RAGはノイズ検索において、エンドツーエンドのパフォーマンスを一貫して改善する。
  論文  参考訳（メタデータ） (2026-02-03T16:08:23Z)
• RAGPart & RAGMask: Retrieval-Stage Defenses Against Corpus Poisoning in Retrieval-Augmented Generation [43.85099769473328]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデルを強化するための有望なパラダイムとして登場した。 近年の研究では、悪意のある文書を検索コーパスに注入し、モデル出力を操作できるRAGパイプラインコーパス中毒の致命的な脆弱性が明らかにされている。 本稿では、RAGPartとRAGMaskの2つの相補的な検索ステージディフェンスを提案する。
  論文  参考訳（メタデータ） (2025-12-30T14:43:57Z)
• Rescuing the Unpoisoned: Efficient Defense against Knowledge Corruption Attacks on RAG Systems [11.812488957698038]
  大規模言語モデル(LLM)は私たちの日常生活の多くの側面を変え、Webベースのサービスとして広く採用されています。 検索・拡張生成(RAG)は,外部知識ソースに根ざした応答を生成することによって,将来性のある方向として登場した。 近年の研究では、誤情報注入による知識腐敗攻撃など、RAGの脆弱性が実証されている。 本稿では,知識汚職に対する資源効率のよい防御機構であるRAGDefenderを紹介する。
  論文  参考訳（メタデータ） (2025-11-03T06:39:58Z)
• Disabling Self-Correction in Retrieval-Augmented Generation via Stealthy Retriever Poisoning [14.419943772894754]
  Retrieval-Augmented Generation (RAG)は,大規模言語モデル(LLM)の信頼性向上のための標準アプローチとなっている。 本稿では,現代のLSMの強力なテクスト自己補正能力(SCA)によって,このような攻撃を軽減できることを明らかにする。 我々は,新しい中毒パラダイムであるtextscDisarmRAG を導入し,レトリバー自体を妥協してSCAを抑止し,アタッカー・チョーゼン出力を強制する。
  論文  参考訳（メタデータ） (2025-08-27T17:49:28Z)
• DeRAG: Black-box Adversarial Attacks on Multiple Retrieval-Augmented Generation Applications via Prompt Injection [0.9499594220629591]
  アドリシャル・プロンプト・アタックは、レトリーバル・アフュージョンド・ジェネレーション(RAG)システムの信頼性を大きく変える可能性がある。 本稿では, RAGに基づく質問応答に対して, 対角的プロンプト接尾辞を最適化するために, 微分進化(DE)を適用した新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-07-20T16:48:20Z)
• The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems [101.68501850486179]
  本稿では,RAGシステムに対する敵攻撃について検討し,その脆弱性を同定する。 このタスクは、ターゲット文書を検索する非知覚的な摂動を見つけることを目的としており、もともとはトップ$k$の候補セットから除外されていた。 本稿では、攻撃者とターゲットRAG間の相互作用を追跡する強化学習ベースのフレームワークであるReGENTを提案する。
  論文  参考訳（メタデータ） (2025-05-24T08:19:25Z)
• Corpus Poisoning via Approximate Greedy Gradient Descent [48.5847914481222]
  本稿では,HotFlip法をベースとした高密度検索システムに対する新たな攻撃手法として,近似グレディ・グラディエント・Descentを提案する。 提案手法は,複数のデータセットと複数のレトリバーを用いて高い攻撃成功率を達成し,未知のクエリや新しいドメインに一般化可能であることを示す。
  論文  参考訳（メタデータ） (2024-06-07T17:02:35Z)
• Invariance-powered Trustworthy Defense via Remove Then Restore [7.785824663793149]
  ディープニューラルネットワーク(DNN)の展開にアドリアックが挑戦 主な発見は、敵のサンプルにおける健全な攻撃が攻撃過程を支配することである。 標的治療機構に追従した画像手術とセマンティック再生モデルを開発した。
  論文  参考訳（メタデータ） (2024-02-01T03:34:48Z)
• Towards Robust Ranker for Text Retrieval [83.15191578888188]
  ローダは、デファクトの'retrieval & rerank'パイプラインで必須の役割を果たす。 ローダは、デファクトの'retrieval & rerank'パイプラインで必須の役割を果たす。
  論文  参考訳（メタデータ） (2022-06-16T10:27:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。