論文の概要: GuardRAG: A Post-Retrieval Defense against Poisoning Attacks in Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2610.35071v1
• Date: Mon, 26 Oct 2026 09:17:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.807685
• Title: GuardRAG: A Post-Retrieval Defense against Poisoning Attacks in Retrieval-Augmented Generation
• Title（参考訳）: GuardRAG:Retrieval-Augmented GenerationにおけるPhoisoning攻撃に対するRetrieval後防衛
• Abstract要約: GuardRAGは、回収された証拠のセマンティック構造を利用して、不審な文書群を識別する。 クエリの関連性、クラスタサイズ、セマンティックなコンパクト性に基づいて、不審なクラスタをスコアし、プーンする。
• 参考スコア（独自算出の注目度）: 33.11940326188609
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Retrieval-Augmented Generation (RAG) enhances the factual grounding of Large Language Models (LLMs) by incorporating external evidence, but also exposes them to corpus poisoning attacks. In particular, coordinated attacks can introduce multiple mutually reinforcing poisoned documents into retrieved contexts, making reliable evidence filtering challenging. To address this problem, we propose GuardRAG, a training-free and plug-and-play post-retrieval defense that exploits the semantic structure of retrieved evidence to identify suspicious document groups. Specifically, GuardRAG first expands the retrieval range and removes near-duplicate candidates, then partitions the retained documents using Hierarchical Agglomerative Clustering (HAC) with a query-adaptive threshold. Finally, it scores and prunes suspicious clusters based on query relevance, cluster size, and semantic compactness. Experiments across three question-answering datasets, multiple poisoning attacks, and six LLMs demonstrate that GuardRAG substantially reduces attack success rates while maintaining answer utility under clean retrieval.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG) は、外部の証拠を組み込むことで、LLM(Large Language Models)の現実的な基盤を強化すると同時に、コーパスによる中毒攻撃にも適用する。 特に、コーディネートされた攻撃は、複数の有毒な文書を検索された文脈に相互に補強し、信頼できる証拠のフィルタリングを困難にすることができる。 この問題を解決するため,不審な文書群を識別するために,検索した証拠のセマンティックな構造を利用する,訓練不要かつプラグアンドプレイの事後防御であるGuardRAGを提案する。 特に、GuardRAGは検索範囲を拡張して、ほぼ重複した候補を取り除き、階層的集約クラスタリング(HAC)を使用して保持された文書をクエリ適応しきい値で分割する。 最後に、クエリの関連性、クラスタサイズ、セマンティックなコンパクト性に基づいて、不審なクラスタをスコアし、プーンする。 3つの問合せデータセット、複数の毒殺攻撃、6つのLSM実験により、GuardRAGは、クリーンな検索の下で回答ユーティリティを維持しながら、攻撃の成功率を大幅に低下させることを示した。

関連論文リスト

• RAGSentinel: Certifiable Geometric Consensus for Robust Retrieval-Augmented Generation [9.458292549037155]
  我々は,ブラックボックスRAGシステムのための,トレーニング不要でラベルのない防衛システムであるRAGSentinelを提案する。 RaGSentinelは、競争精度を維持しながら、攻撃の成功率の低下を一貫して達成する。
  論文  参考訳（メタデータ） (2026-08-25T01:44:07Z)
• TopoGuard: Graph Theory Based Defenses Against Split-Knowledge Attacks on RAG [5.328366903719861]
  Production Retrieval Augmented Generation (RAG) システムは複雑なクエリに応答するために外部文書の集約に依存している。 検索されたドキュメントには新たな脅威サーフェスが導入され,スプリット・ナレッジ・アタックの起動に利用することができる。 本稿は、LlamaGuardのような既存のドキュメント単位のフィルタでは、新しい攻撃は構造的に見えないことを示す。 RAGでこの問題に対処するために、この研究はTopoGuardを導入している。
  論文  参考訳（メタデータ） (2026-05-11T17:46:02Z)
• TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
  分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。 我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。 我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
  論文  参考訳（メタデータ） (2026-04-30T13:44:01Z)
• AdversarialCoT: Single-Document Retrieval Poisoning for LLM Reasoning [115.3243260783674]
  Retrieval-augmented Generation (RAG) は、外部文書を取得することにより、大きな言語モデル(LLM)推論を強化する。 攻撃者が悪意のあるコンテンツを検索コーパスに注入するRAGにおける知識ベース中毒攻撃について検討した。 AdversarialCoTは、コーパス内の1つのドキュメントだけを毒化するクエリ固有の攻撃である。
  論文  参考訳（メタデータ） (2026-04-14T02:10:23Z)
• CodaRAG: Connecting the Dots with Associativity Inspired by Complementary Learning [50.98972985136333]
  CodaRAGは、受動的検索からアクティブな連想発見へと進化するフレームワークである。 CodaRAGは、検索リコールで7-10%、生成精度で3-11%という絶対的なゲインを達成する。
  論文  参考訳（メタデータ） (2026-04-12T02:50:40Z)
• RAGPart & RAGMask: Retrieval-Stage Defenses Against Corpus Poisoning in Retrieval-Augmented Generation [43.85099769473328]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデルを強化するための有望なパラダイムとして登場した。 近年の研究では、悪意のある文書を検索コーパスに注入し、モデル出力を操作できるRAGパイプラインコーパス中毒の致命的な脆弱性が明らかにされている。 本稿では、RAGPartとRAGMaskの2つの相補的な検索ステージディフェンスを提案する。
  論文  参考訳（メタデータ） (2025-12-30T14:43:57Z)
• The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems [101.68501850486179]
  本稿では,RAGシステムに対する敵攻撃について検討し,その脆弱性を同定する。 このタスクは、ターゲット文書を検索する非知覚的な摂動を見つけることを目的としており、もともとはトップ$k$の候補セットから除外されていた。 本稿では、攻撃者とターゲットRAG間の相互作用を追跡する強化学習ベースのフレームワークであるReGENTを提案する。
  論文  参考訳（メタデータ） (2025-05-24T08:19:25Z)
• BadRAG: Identifying Vulnerabilities in Retrieval Augmented Generation of Large Language Models [18.107026036897132]
  大規模言語モデル(LLM)は時代遅れの情報と誤ったデータを生成する傾向によって制約される。 Retrieval-Augmented Generation (RAG) は、検索手法の強みと生成モデルを組み合わせることで、これらの制限に対処する。 RAG は LLM に対する新たな攻撃面を導入している。特に RAG データベースは Web などの公開データからしばしば引き出されるためである。
  論文  参考訳（メタデータ） (2024-06-03T02:25:33Z)
• Certifiably Robust RAG against Retrieval Corruption [58.677292678310934]
  Retrieval-augmented Generation (RAG) は、回復汚職攻撃に弱いことが示されている。 本稿では,ロバストRAGを検索汚職攻撃に対する最初の防御フレームワークとして提案する。
  論文  参考訳（メタデータ） (2024-05-24T13:44:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。