論文の概要: CamoDocs: A Poisoning Attack Against Retrieval-Augmented Language Models Using Camouflaged Documents
- arxiv url: http://arxiv.org/abs/2608.28389v1
- Date: Fri, 28 Aug 2026 14:44:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-31 17:16:04.356338
- Title: CamoDocs: A Poisoning Attack Against Retrieval-Augmented Language Models Using Camouflaged Documents
- Title（参考訳）: CamoDocs:カモフラージュ文書を用いた検索強化言語モデルに対する攻撃
- Abstract要約: CamoDocsは、良質なコンテンツ間で敵のドキュメントを偽装することによって直接クエリインクルージョンを避ける中毒攻撃である。
単純なクエリ検出によって悪用されたクエリオーバーラップアーティファクトを避けながら、強い平均的なASRを実現する。
- 参考スコア（独自算出の注目度）: 29.44505137598001
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Retrieval-augmented generation (RAG) augments LLMs with external documents, but public or user-editable sources expose RAG systems to data poisoning: attackers can inject malicious documents to steer outputs toward targeted answers. Existing poisoning attacks often rely on query inclusion, inserting the target query into poisoned documents to improve retrieval; however, this creates lexical and embedding-space artifacts that make them easy to filter. We propose CamoDocs, a poisoning attack that avoids direct query inclusion by camouflaging adversarial documents among benign content. CamoDocs chunks synthesized benign and adversarial drafts, replaces selected tokens in benign chunks with dispersion tokens that spread poisoned-document embeddings, and applies coherence filtering to limit readability degradation. Across seven RAG defenses, three open-weight LLMs, and three benchmarks, CamoDocs achieves strong average ASR while avoiding query-overlap artifacts exploited by simple query detection. It also remains effective against proprietary models, achieving average ASRs of 61.80% on GPT-5.4-mini and 55.09% on Claude-Haiku-4.5. Finally, we show that erasure-heavy clustering defenses such as TrustRAG can reduce ASR, but only with substantial utility drops on retrieval-dependent benchmarks such as NeoQA. Code is available at https://github.com/jaewonalive/CamoDocs.
- Abstract（参考訳）: Retrieval-augmented Generation (RAG) は LLM を外部文書で拡張するが、公開またはユーザ編集可能なソースは、RAG システムをデータ中毒に晒す。
既存の中毒攻撃は、しばしばクエリインクルージョンに依存し、検索を改善するためにターゲットクエリを有毒なドキュメントに挿入する。
本稿では,敵対的文書を良質コンテンツ間で偽装することにより,直接クエリインクルージョンを回避する毒物攻撃であるCamoDocsを提案する。
CamoDocsチャンクは、良性および逆性ドラフトを合成し、良性チャンク内の選択されたトークンを、有毒文書の埋め込みを拡散する分散トークンに置き換え、可読性低下を制限するためにコヒーレンスフィルタリングを適用する。
7つのRAGディフェンス、3つのオープンウェイトLDM、3つのベンチマークで、CamoDocsは、単純なクエリ検出によって悪用されるクエリオーバーラップアーティファクトを避けながら、強い平均的なASRを達成する。
GPT-5.4-miniでは平均61.80%、Claude-Haiku-4.5では55.09%を達成している。
最後に,TrustRAGなどの消去量の多いクラスタリングディフェンスは,ASRを低減できるが,NeoQAなどの検索依存ベンチマークでは有効性が低下するのみであることを示す。
コードはhttps://github.com/jaewonalive/CamoDocs.comで入手できる。
関連論文リスト
- RAGSentinel: Certifiable Geometric Consensus for Robust Retrieval-Augmented Generation [9.458292549037155]
我々は,ブラックボックスRAGシステムのための,トレーニング不要でラベルのない防衛システムであるRAGSentinelを提案する。
RaGSentinelは、競争精度を維持しながら、攻撃の成功率の低下を一貫して達成する。
論文 参考訳（メタデータ） (2026-08-25T01:44:07Z) - MIRAGE: Defending Long-Form RAG Against Misinformation Pollution [87.40537931342082]
我々は、長期RAGのためのトレーニング不要でモデルに依存しない防御システムであるMIRAGEを紹介した。
MIRAGEはNLIベースのクロスドキュメントクレームグラフを構築し、一貫性のあるマルチソースサポートサブセットの条件生成や、検索とパラメトリック応答のブロックにDefended-Claims Gateを適用している。
論文 参考訳（メタデータ） (2026-07-06T13:36:12Z) - KidnapRAG: A Black-Box Attack for Hijacking Reasoning in Agentic Retrieval-Augmented Generation Systems [6.635259626949818]
最近のエージェントRAGシステムは、反復的に検索と推論を行うため、中毒攻撃に対してより堅牢である。
我々は、エージェントの多段階推論チェーンをハイジャックするシーケンシャルな毒殺攻撃であるKidnapRAGを提案する。
論文 参考訳（メタデータ） (2026-07-01T04:32:17Z) - SilentRetrieval: Hijacking Retrieval-Augmented Generation via Semantically-Preserving Adversarial Data Poisoning [1.0998907972211756]
SilentRetrievalは2段階のデータ中毒攻撃で、RAGシステムを敵対的な文書でハイジャックする。
SilentRetrievalは84.6%/81.3% HR@10、57.5%/54.8% ASR-LLM on Natural QuestionsとMS MARCOを達成している。
論文 参考訳（メタデータ） (2026-05-27T07:30:30Z) - AdversarialCoT: Single-Document Retrieval Poisoning for LLM Reasoning [115.3243260783674]
Retrieval-augmented Generation (RAG) は、外部文書を取得することにより、大きな言語モデル(LLM)推論を強化する。
攻撃者が悪意のあるコンテンツを検索コーパスに注入するRAGにおける知識ベース中毒攻撃について検討した。
AdversarialCoTは、コーパス内の1つのドキュメントだけを毒化するクエリ固有の攻撃である。
論文 参考訳（メタデータ） (2026-04-14T02:10:23Z) - Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
完全無害データを用いた新しい毒殺法を提案する。
自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。
LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
論文 参考訳（メタデータ） (2025-05-23T08:13:59Z) - Collapse of Dense Retrievers: Short, Early, and Literal Biases Outranking Factual Evidence [56.09494651178128]
検索モデルは、Retrieval-Augmented Generation (RAG)のような情報検索(IR)アプリケーションで一般的に使用される。
我々は、Dragon+やContrieverのようなリトリーバーに対する、短いドキュメントの好みなどのバイアスの影響を定量化する。
私たちは大きな脆弱性を発見し、リトリバーが短いドキュメント、早い位置、繰り返しのエンティティ、リテラルマッチを好んで、答えの存在を無視しながら表示します。
論文 参考訳（メタデータ） (2025-03-06T23:23:13Z) - Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。
RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。
これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。
我々は、無害な」知識基盤の著作権保護の名称を提案する。
論文 参考訳（メタデータ） (2025-02-10T09:15:56Z) - Document Screenshot Retrievers are Vulnerable to Pixel Poisoning Attacks [72.4498910775871]
ヴィジュアル言語モデル(VLM)ベースのレトリバーは、ベクターとして埋め込まれた文書のスクリーンショットを活用して、効率的な検索を可能にし、従来のテキストのみの手法よりも単純化されたパイプラインを提供する。
本研究では,VLMをベースとしたレトリバーを危険にさらすために,3つのピクセル中毒攻撃手法を提案する。
論文 参考訳（メタデータ） (2025-01-28T12:40:37Z) - Adversarial Decoding: Generating Readable Documents for Adversarial Objectives [9.200635465485067]
新しい汎用テキスト生成技術は、異なる対向目的に対して読みやすい文書を生成する。
従来の方法は容易に検出可能なジベリッシュを生成するか、あるいは埋め込み類似性を含む目的を扱うことができない。
我々は, RAG中毒, 脱獄, 防御フィルターの回避など, 異なる目的に対して, 敵復号の有効性を計測した。
論文 参考訳（メタデータ） (2024-10-03T03:06:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。