論文の概要: InceptionRAG: Stealthy Poisoning Attack Against Retrieval-Augmented Generation
- arxiv url: http://arxiv.org/abs/2609.16818v1
- Date: Tue, 15 Sep 2026 08:22:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.411977
- Title: InceptionRAG: Stealthy Poisoning Attack Against Retrieval-Augmented Generation
- Title（参考訳）: インセプションRAG: 検索強化世代に対する盗聴攻撃
- Abstract要約: InceptionRAGは、標準的な攻撃パラダイムを覆すステルス攻撃機構である。
インセプションRAGは厳格な敵対的制約の下でも80%以上の攻撃成功率を達成する。
LLMの強い推論能力は、推論に基づく中毒攻撃に対する脆弱性を増大させる。
- 参考スコア（独自算出の注目度）: 23.65420330011369
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Retrieval-augmented generation (RAG) systems enhance large language models (LLMs) with external knowledge but have been demonstrated to be vulnerable to corpus poisoning. Existing poisoning attacks against RAG largely focus on single-point explicit injection, where the malicious payload is fully encapsulated within a single document. Consequently, recent mitigation mechanisms have evolved to identify and diminish these threats effectively. In this paper, we first verify that existing mitigation mechanisms are insufficient for a new class of threats: indirect logic induction. Motivated by this observation, we introduce InceptionRAG, a stealthy attack mechanism that subverts the standard attack paradigm. Instead of injecting explicit malicious payloads, InceptionRAG fragments it into a chain of dormant passages. These passages appear harmless and can bypass existing mitigation mechanisms when examined separately. However, when retrieved together, they trigger LLMs to self-deduce target misinformation via multi-hop reasoning. To further improve the applicability of InceptionRAG in black-box settings, we propose zeroth-order suffix optimization (ZOSO) to automate the generation of authoritative suffixes. Extensive evaluations across three datasets and three LLMs demonstrate that InceptionRAG achieves an attack success rate exceeding 80% even under rigorous adversarial constraints. In particular, InceptionRAG shows superior evasion capabilities, effectively bypassing established defenses that mitigate traditional single-document injections. Our findings expose a concerning paradox: the stronger reasoning capabilities of LLMs increase their vulnerability to reasoning-based poisoning attacks. To mitigate potential misuse, we propose a document isolation-based defense, HODOR, which decouples adversarial logical dependencies.
- Abstract（参考訳）: Retrieval-augmented Generation (RAG) システムは、外部知識で大きな言語モデル(LLM)を増強するが、コーパス中毒に弱いことが示されている。
既存のRAGに対する中毒攻撃は主に単一ポイント明示的なインジェクションに焦点を当てており、悪意のあるペイロードは単一のドキュメントに完全にカプセル化されている。
その結果、最近の緩和機構が進化し、これらの脅威を効果的に識別し、減少させてきた。
本稿では,既存の緩和メカニズムが,新たな脅威である間接論理帰納法に対して不十分であることを最初に検証する。
この観察に触発されたInceptionRAGは、標準的な攻撃パラダイムを覆すステルス攻撃機構である。
明示的な悪意のあるペイロードを注入する代わりに、InceptionRAGはそれを一連の休息パスに断片化する。
これらの通路は無害に見え、個別に検査すると既存の緩和機構を回避できる。
しかし、一緒に検索するとLSMをトリガーし、マルチホップ推論によってターゲットの誤情報を自己決定する。
ブラックボックス設定におけるインセプションRAGの適用性をさらに向上するため、ゼロ階接尾辞最適化(ZOSO)を提案し、権威接尾辞の生成を自動化する。
3つのデータセットと3つのLSMにわたる広範囲な評価は、InceptionRAGが厳密な敵対的制約の下でも80%以上の攻撃成功率を達成することを示した。
特に、InceptionRAGはより優れた回避能力を示し、従来の単一文書注入を緩和する確立された防御を効果的にバイパスする。
LLMの強い推論能力は、推論に基づく中毒攻撃に対する脆弱性を増大させる。
潜在的な誤用を軽減するため,文書分離に基づく防衛法 HODOR を提案する。
関連論文リスト
- DenialRAG: Single-Document RAG Poisoning via Embedded Parametric Denial [7.434105792757549]
EmphDenialRAGは,正しい回答を明示し,それを否定し,攻撃者による説明を提示する単一文書中毒攻撃である。
DenialRAGは、コンフリクトを直接ジェネレータが見るコンテキストに埋め込む。
我々はDenialRAGを3つのオープンドメイン質問回答データセットにまたがる4つの単一文書中毒攻撃に対して評価した。
論文 参考訳（メタデータ） (2026-08-02T20:33:05Z) - KidnapRAG: A Black-Box Attack for Hijacking Reasoning in Agentic Retrieval-Augmented Generation Systems [6.635259626949818]
最近のエージェントRAGシステムは、反復的に検索と推論を行うため、中毒攻撃に対してより堅牢である。
我々は、エージェントの多段階推論チェーンをハイジャックするシーケンシャルな毒殺攻撃であるKidnapRAGを提案する。
論文 参考訳（メタデータ） (2026-07-01T04:32:17Z) - TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning [60.68349524623048]
分解されたジェイルブレイクは、大きな言語モデルにとって重大な脅威となる。
我々はステートフルなデュアルエンコーダ防御フレームワークであるTwinGateを紹介する。
我々は、8600の異なる悪意のある意図にまたがる360万以上の命令の包括的なデータセットを構築した。
論文 参考訳（メタデータ） (2026-04-30T13:44:01Z) - Prompt-Unknown Promotion Attacks against LLM-based Sequential Recommender Systems [51.504307822017985]
大規模言語モデルを用いたシーケンシャルレコメンデータシステム(LLM-SRS)は,最近顕著な性能を示した。
本稿では, LLM-SRSにおけるアイテムプロモーション攻撃について, 攻撃者に対してシステムプロンプトと被害者モデルの両方が未知な状況下で, より現実的な状況下で検討する。
論文 参考訳（メタデータ） (2026-04-26T10:09:26Z) - AdversarialCoT: Single-Document Retrieval Poisoning for LLM Reasoning [115.3243260783674]
Retrieval-augmented Generation (RAG) は、外部文書を取得することにより、大きな言語モデル(LLM)推論を強化する。
攻撃者が悪意のあるコンテンツを検索コーパスに注入するRAGにおける知識ベース中毒攻撃について検討した。
AdversarialCoTは、コーパス内の1つのドキュメントだけを毒化するクエリ固有の攻撃である。
論文 参考訳（メタデータ） (2026-04-14T02:10:23Z) - Making MLLMs Blind: Adversarial Smuggling Attacks in MLLM Content Moderation [54.38271718421492]
敵の密輸攻撃は人間とAIの能力ギャップを悪用する。
有害なコンテンツを人間の読みやすい視覚形式にエンコードする。
我々は緩和戦略の予備的な調査を行う。
論文 参考訳（メタデータ） (2026-04-08T11:13:16Z) - Addressing Corpus Knowledge Poisoning Attacks on RAG Using Sparse Attention [10.71610316323851]
Sparse Document Attention RAG (SDAG) の新たな防衛手法について紹介する。
SDAGは、取得したドキュメント間の相互アテンションを許可するブロックスパースアテンションメカニズムである。
我々は,SDAG法が攻撃成功率において標準的な因果注意機構を大幅に上回ることを示す。
論文 参考訳（メタデータ） (2026-02-04T16:22:20Z) - The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems [101.68501850486179]
本稿では,RAGシステムに対する敵攻撃について検討し,その脆弱性を同定する。
このタスクは、ターゲット文書を検索する非知覚的な摂動を見つけることを目的としており、もともとはトップ$k$の候補セットから除外されていた。
本稿では、攻撃者とターゲットRAG間の相互作用を追跡する強化学習ベースのフレームワークであるReGENTを提案する。
論文 参考訳（メタデータ） (2025-05-24T08:19:25Z) - Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
完全無害データを用いた新しい毒殺法を提案する。
自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。
LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
論文 参考訳（メタデータ） (2025-05-23T08:13:59Z) - Hoist with His Own Petard: Inducing Guardrails to Facilitate Denial-of-Service Attacks on Retrieval-Augmented Generation of LLMs [8.09404178079053]
Retrieval-Augmented Generation (RAG)は、Large Language Models (LLM)を外部の知識ベースと統合し、新たなセキュリティリスクを導入しながら出力品質を改善する。
RAGの脆弱性に関する既存の研究は、典型的には不正な知識や悪意のあるテキストを注入する検索メカニズムの活用に重点を置いており、誤った出力を誘導している。
本稿では, LLM の安全ガードレールの脆弱性を明らかにする。LLM の安全ガードレールは保護のために設計されているが, 敵による攻撃ベクトルとして利用することもできる。この脆弱性に基づいて, 本脆弱性を生かして, ガードレールの可利用性を損なうために, リバース・オブ・サービス・アタックである MutedRAG を提案する。
論文 参考訳（メタデータ） (2025-04-30T14:18:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。