論文の概要: RAG-NAROK: Retrieval-Aware Knowledge Corpus Poisoning in RAG with Source-specific Refutation

• arxiv url: http://arxiv.org/abs/2609.25469v1
• Date: Mon, 21 Sep 2026 22:53:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.138196
• Title: RAG-NAROK: Retrieval-Aware Knowledge Corpus Poisoning in RAG with Source-specific Refutation
• Title（参考訳）: RAG-NAROK : RAGにおける検索知識コーパスとソース特性
• Abstract要約: 既存の知識ベース中毒攻撃は基本的に静的である。 本稿では,クエリテキストに適応するRAG攻撃フレームワークであるRAG-NAROKを紹介する。 以上の結果から,RAG-NAROKは様々な領域で静的ベースラインを著しく上回っていることが明らかとなった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Retrieval augmented generation (RAG) systems have emerged as the dominant architecture for grounding large language model (LLM) outputs in verifiable external knowledge, yet their structural reliance on a dynamic retrieval pipeline introduces a largely unexplored class of adversarial vulnerability. Existing knowledge-base poisoning attacks are fundamentally static. Adversarial documents are pre-computed and injected without any awareness of what the victim system will actually retrieve for a given query, leaving the attack blind to the competitive documentary landscape that surrounds its payload in the generator's context window. Unlike traditional static poisoning attacks that are blind to the retrieved context, we introduce RAG-NAROK (Retrieval-Anchored Generation Negation And Response Quality Collapse), a RAG attack framework that adapts to the query text. RAG-NAROK exploits the transparency inherent in RAG pipeline to first extract the legitimate source identities, then generate Anchor-Specific Refutation documents that explicitly name and devalue retrieved sources while leveraging recency and authority biases to steer the text generation toward a target answer. Our results demonstrate that RAG-NAROK significantly outperforms static baselines across diverse domains, revealing a fundamental tension between RAG transparency and AI security.
• Abstract（参考訳）: Retrieval augmented generation (RAG) システムは、検証可能な外部知識で大規模言語モデル(LLM)出力を基盤とする主要なアーキテクチャとして登場したが、動的検索パイプラインへの構造依存は、ほとんど探索されていない敵の脆弱性をもたらす。 既存の知識ベース中毒攻撃は基本的に静的である。 敵の文書は事前に計算され、被害者のシステムが実際に何を検索するかを意識せずに注入され、攻撃はジェネレータのコンテキストウィンドウにペイロードを囲む競合するドキュメンタリーの風景に見えなくなる。 RAG-NAROK(Retrieval-Anchored Generation Negation And Response Quality Collapse)は,検索コンテキストに適応したRAG攻撃フレームワークである。 RAG-NAROKは、RAGパイプラインに固有の透明性を活用して、まず正当なソースのIDを抽出し、次に、検索したソースを明示的に名前付けしてデバリューするアンカー・特定難読化文書を生成します。 我々の結果は、RAG-NAROKが様々なドメインで静的ベースラインを著しく上回り、RAGの透明性とAIセキュリティの間に根本的な緊張関係があることを実証している。

関連論文リスト

• Mitigating Database Leakage in RAG Systems with Keyword-Grounded Fact Substitution [11.433606516258193]
  Retrieval-Augmented Generation (RAG) は、大規模言語モデルと外部知識ソースを組み合わせるための強力なパラダイムとして登場した。 しかし、RAGシステムはインジェクション攻撃に弱いままであり、レトリバーやジェネレータが機密性のあるデータベースの内容を公開することを誤解させる可能性がある。 KFS-RAGは,検索したコンテキストを書き換えることで情報漏洩を緩和する防衛手段である。
  論文  参考訳（メタデータ） (2026-08-21T21:57:40Z)
• Combating Knowledge Corruption in Agent Systems: A Byzantine-Tolerant Secure Collaborative RAG Framework [61.79960727298522]
  ビザンチン耐性協調RAGフレームワークSecureCollaRAGを提案する。 提案手法により,エージェントシステムは動的GNNによる信頼性スコアリングにより,文書の証明を確実に行うことができる。 本研究では,SecureCollaRAGが非IIDデータ配信における攻撃者に対する堅牢性を維持していることを示す。
  論文  参考訳（メタデータ） (2026-08-05T02:13:37Z)
• AdversarialCoT: Single-Document Retrieval Poisoning for LLM Reasoning [115.3243260783674]
  Retrieval-augmented Generation (RAG) は、外部文書を取得することにより、大きな言語モデル(LLM)推論を強化する。 攻撃者が悪意のあるコンテンツを検索コーパスに注入するRAGにおける知識ベース中毒攻撃について検討した。 AdversarialCoTは、コーパス内の1つのドキュメントだけを毒化するクエリ固有の攻撃である。
  論文  参考訳（メタデータ） (2026-04-14T02:10:23Z)
• Benchmarking Knowledge-Extraction Attack and Defense on Retrieval-Augmented Generation [50.87199039334856]
  Retrieval-Augmented Generation (RAG) は知識集約型アプリケーションの基礎となっている。 近年の研究では、悪意あるクエリによって知識抽出攻撃が機密知識ベースコンテンツを回復できることが示されている。 本稿では,RAGシステムに対する知識抽出攻撃のための最初の体系的ベンチマークを紹介する。
  論文  参考訳（メタデータ） (2026-02-10T01:27:46Z)
• Who Taught the Lie? Responsibility Attribution for Poisoned Knowledge in Retrieval-Augmented Generation [18.511277791848638]
  Retrieval-Augmented Generation (RAG)は、外部知識を大規模言語モデルに統合し、応答品質を向上させる。 近年の研究では、RAGシステムは、悪意のあるテキストを知識データベースに挿入し、モデル出力に影響を与える有害な攻撃に対して非常に脆弱であることが示されている。 本稿では,知識データベースのどのテキストが誤読や誤用の原因であるかを識別するブラックボックス責任属性フレームワークであるRAGOriginについて述べる。
  論文  参考訳（メタデータ） (2025-09-17T07:38:54Z)
• The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems [101.68501850486179]
  本稿では,RAGシステムに対する敵攻撃について検討し,その脆弱性を同定する。 このタスクは、ターゲット文書を検索する非知覚的な摂動を見つけることを目的としており、もともとはトップ$k$の候補セットから除外されていた。 本稿では、攻撃者とターゲットRAG間の相互作用を追跡する強化学習ベースのフレームワークであるReGENTを提案する。
  論文  参考訳（メタデータ） (2025-05-24T08:19:25Z)
• Silent Leaks: Implicit Knowledge Extraction Attack on RAG Systems through Benign Queries [42.768116999732776]
  インプシット知識抽出攻撃(IKEA)は、良質なクエリを通してRAGシステム上で知識抽出を行う。 IKEAは、抽出効率の80%以上、攻撃成功率の90%を超えている。
  論文  参考訳（メタデータ） (2025-05-21T12:04:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。