Fugu-MT 論文翻訳(概要): Tracing Target Answers in Poisoned Retrieval Corpora via Token Influence Attribution

論文の概要: Tracing Target Answers in Poisoned Retrieval Corpora via Token Influence Attribution

arxiv url: http://arxiv.org/abs/2606.25721v1
Date: Wed, 24 Jun 2026 11:39:26 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-25 17:05:30.318915
Title: Tracing Target Answers in Poisoned Retrieval Corpora via Token Influence Attribution
Title（参考訳）: トケイン・アトリビューションによる中毒性検索コーパスの追跡対象回答
Abstract要約: TRACEは、トークン影響の帰属を通じて応答関連トークンを追跡することによって、毒攻撃を識別する。 TRACEはまず、検索した文書間で繰り返し発生する高影響キーワードを発見し、次にモデル予測への影響を確認するための二次検証を行う。
参考スコア（独自算出の注目度）: 45.91389330863296
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Retrieval-Augmented Generation (RAG) systems are vulnerable to corpus poisoning attacks that manipulate model outputs through malicious retrieved documents. Existing detection methods typically rely on auxiliary classifiers or additional LLM-based verification, introducing substantial computational overhead. We present TRACE, a lightweight detection framework that identifies poisoning attacks by tracing answer-related tokens through token influence attribution. TRACE first discovers recurrent high-influence keywords across retrieved documents and then performs a secondary verification to confirm their influence on model predictions. Experiments on three QA benchmarks and six LLMs demonstrate strong detection performance while simultaneously uncovering attacker-specified target answers.
Abstract（参考訳）: Retrieval-Augmented Generation (RAG) システムは、悪意ある検索されたドキュメントを通じてモデル出力を操作するコーパス中毒攻撃に対して脆弱である。既存の検出方法は、通常補助的な分類器やLLMベースの検証に頼り、かなりの計算オーバーヘッドを発生させる。本報告では,トークン影響属性による応答関連トークンの追跡により,毒性攻撃を識別する軽量検出フレームワークであるTRACEについて述べる。 TRACEはまず、検索した文書間で繰り返し発生する高影響キーワードを発見し、次にモデル予測への影響を確認するための二次検証を行う。 3つのQAベンチマークと6つのLDMによる実験は、攻撃者が特定したターゲット回答を同時に発見しながら、強力な検出性能を示した。

関連論文リスト

Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection [0.0]
本稿では,検索境界ディフェンスを用いた3層マルチエージェント侵入検出フレームワークであるRAG-IDSを提案する。即時注入では、複数文書検索ではラベルフリップが0.6-2.4%に制限され、シングルドキュメント検索では35-55%に制限された。
論文参考訳（メタデータ） (2026-08-08T12:29:47Z)
When Context Bites: Detecting RAG Poisoning via Document-Level Attention Collapse [34.49107596901488]
RAGは、敵の文書がジェネレータ出力を操作するために注入されるような、毒殺攻撃の影響を受けやすくなっている。これまでは、攻撃を検出するためにパープレキシティや一貫性チェックといった出力側信号に頼っていた。攻撃された世代を識別するための注意動態をモニタする軽量検出フレームワークである textttD-SCAN を提案する。
論文参考訳（メタデータ） (2026-08-07T08:23:26Z)
Attention Hijacking: Response Manipulation Across Queries in Vision-Language Models [57.870323273127234]
本研究の目的は,画像の持続的支配パターンに対して内的注意を喚起する新たな敵攻撃であるtextbfAttention Hijacking を提案することである。提案手法は,クエリの特定の単語に対する操作された出力の依存性を低減する。
論文参考訳（メタデータ） (2026-05-17T08:02:27Z)
Needle-in-RAG: Prompt-Conditioned Character-Level Traceback of Poisoned Spans in Retrieved Evidence [4.039934762896615]
RAGCharacterは、2パスの法医学的なフレームワークで、具体的な誤生成イベントのために責任ある回収されたスパンをローカライズする。 RAGおよび現在のRAGCharacterにおけるブラックボックス文字レベルの毒の追跡について検討した。
論文参考訳（メタデータ） (2026-05-03T08:42:29Z)
AdversarialCoT: Single-Document Retrieval Poisoning for LLM Reasoning [115.3243260783674]
Retrieval-augmented Generation (RAG) は、外部文書を取得することにより、大きな言語モデル(LLM)推論を強化する。攻撃者が悪意のあるコンテンツを検索コーパスに注入するRAGにおける知識ベース中毒攻撃について検討した。 AdversarialCoTは、コーパス内の1つのドキュメントだけを毒化するクエリ固有の攻撃である。
論文参考訳（メタデータ） (2026-04-14T02:10:23Z)
Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
完全無害データを用いた新しい毒殺法を提案する。自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
論文参考訳（メタデータ） (2025-05-23T08:13:59Z)
Stealthy LLM-Driven Data Poisoning Attacks Against Embedding-Based Retrieval-Augmented Recommender Systems [16.79952669254101]
検索強化レコメンデータシステム(RAG)におけるプロバイダ側データ中毒について検討する。アイテム記述内でわずかなトークンだけを変更することで、攻撃者はターゲットのアイテムを著しくプロモートまたはデモすることができる。 MovieLensの実験では、2つの大きな言語モデル(LLM)検索モジュールを使用して、微妙な攻撃でも最終的なランク付けとアイテムの露出が変化し、単純な検出が発覚した。
論文参考訳（メタデータ） (2025-05-08T12:53:42Z)
RevPRAG: Revealing Poisoning Attacks in Retrieval-Augmented Generation through LLM Activation Analysis [7.846936346897295]
RevPRAGは、LLMの活性化を利用した、柔軟で自動化された検出パイプラインである。複数のベンチマークデータセットとRAGアーキテクチャによる結果から,提案手法は真正の98%,偽正の1%に近い正の98%を達成できた。
論文参考訳（メタデータ） (2024-11-28T06:29:46Z)
Token-Level Adversarial Prompt Detection Based on Perplexity Measures and Contextual Information [67.78183175605761]
大規模言語モデルは、敵の迅速な攻撃に影響を受けやすい。この脆弱性は、LLMの堅牢性と信頼性に関する重要な懸念を浮き彫りにしている。トークンレベルで敵のプロンプトを検出するための新しい手法を提案する。
論文参考訳（メタデータ） (2023-11-20T03:17:21Z)
Exploring Model Dynamics for Accumulative Poisoning Discovery [62.08553134316483]
そこで我々は,モデルレベルの情報を通して,防衛を探索するための新しい情報尺度,すなわち,記憶の離散性(Memorization Discrepancy)を提案する。暗黙的にデータ操作の変更をモデル出力に転送することで、メモリ識別は許容できない毒のサンプルを発見することができる。我々は、その性質を徹底的に探求し、累積中毒に対する防御のために、離散型サンプル補正(DSC)を提案する。
論文参考訳（メタデータ） (2023-06-06T14:45:24Z)
Detection of Adversarial Supports in Few-shot Classifiers Using Feature Preserving Autoencoders and Self-Similarity [89.26308254637702]
敵対的なサポートセットを強調するための検出戦略を提案する。我々は,特徴保存型オートエンコーダフィルタリングと,この検出を行うサポートセットの自己相似性の概念を利用する。提案手法は攻撃非依存であり, 最善の知識まで, 数発分類器の検出を探索する最初の方法である。
論文参考訳（メタデータ） (2020-12-09T14:13:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。