論文の概要: TRIS: A Tri-Layer Retrieval Integrity Sieve Against Knowledge Poisoning

• arxiv url: http://arxiv.org/abs/2609.00470v1
• Date: Mon, 31 Aug 2026 23:21:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-02 16:31:36.127706
• Title: TRIS: A Tri-Layer Retrieval Integrity Sieve Against Knowledge Poisoning
• Title（参考訳）: TRIS: 知識中毒を訴える三層検索のインテリジェンス
• Abstract要約: Tri-Layer Sieveは、クロスエンベディング空間クラスタリングによって得られた証拠を衛生化する。 1つの文書は1つの埋め込み幾何学、1つの内部Trigger-Payload構造、1つの世代目標を満たさなければならない。
• 参考スコア（独自算出の注目度）: 6.613886785198943
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Retrieval-Augmented Generation (RAG) grounds large language models in external corpora, but implicit trust in retrieved documents creates a critical attack surface: PoisonedRAG shows that a handful of crafted passages can dominate dense retrieval and steer generation toward attacker-chosen answers. We present the Tri-Layer Sieve, a middleware defense that sanitizes retrieved evidence through cross-embedding-space clustering with an independent judge model, structural filtering of trigger-payload artifacts, and LLM consistency verification. The design exploits a key weakness of retrieval-stage poisoning: a single document must satisfy one embedding geometry, one internal Trigger-Payload structure, and one generation objective - rarely all three simultaneously, a fragility that persists even against an adaptive attacker who paraphrases around it. On Natural Questions, HotpotQA, and MS-MARCO with Contriever retrieval (k=50), the Sieve reduces black-box Attack Success Rate from 67.0/87.0/64.0% to 3.0/14.0/4.0%, mitigates white-box HotFlip attacks from ~74% to 27.8% on NQ with Layer 3 enabled, and drives poisoned-document MRR to 0.000, while restoring clean accuracy from 13-33% under attack to 58-76%. Under an architecture-aware adversary who paraphrases triggers to evade the structural filter, enabling the consistency layer halves adaptive ASR (32.0% to 15.0% on NQ) while raising clean accuracy by 18 points, at an added latency of ~16-19 s/query under live retrieval.
• Abstract（参考訳）: Retrieval-Augmented Generation (RAG) は、大規模な言語モデルを外部コーパスに配置するが、検索された文書に対する暗黙の信頼は、重要な攻撃面を生み出す。 本稿では,独立した判断モデルを用いたクロスエンベディング空間クラスタリング,トリガロードアーティファクトの構造フィルタリング,LCMの整合性検証により,回収された証拠を衛生化するミドルウェアディフェンスであるTri-Layer Sieveを提案する。 1つのドキュメントは1つの埋め込み幾何学、1つの内部Trigger-Payload構造、1つの世代目標を満たさなければならない。 Natural Questions, HotpotQA, MS-MARCO with Contriever Search (k=50), the Sieve reduces black-box Attack Success Rate 67.0/87.0/64.0% to 3.0/14.0/4.0%, the White-box HotFlip attack ~74% to 27.8% with Layer 3 enabled, drive poisoned-document MRR to 0.000, and improveing clean accuracy from 13-33% under attack to 58-76%。 構造的フィルタを回避するためにトリガーを起動するアーキテクチャを意識した敵対者の下では、一貫性層は適応的なASR(NQでは32.0%から15.0%)を半減し、クリーンな精度は18ポイント向上し、ライブ検索では16-19秒/クエリが加算される。

関連論文リスト

• MechAudit-40: White-Box Auditing across 40 LLM Attack Mechanisms [16.312485460260056]
  MechAudit-40は、5つのオープンウェイトモデルアーキテクチャにわたる40の攻撃機構の体系的評価である。 攻撃は、分離された層スパイクではなく、構造化された多層軌道を誘導する。 MechAuditは81.1%のホールトアウト攻撃実行を0.70%の偽陽性率で検出し、機能カテゴリ全体が保持されない場合に78.1%のリコールを維持する。
  論文  参考訳（メタデータ） (2026-09-06T13:57:41Z)
• RAGSieve: Self-Referenced Local Contrast for Knowledge-Poison Detection in Retrieval-Augmented Generation [0.0]
  既存の検出器は、信頼できる参照、特定の攻撃アーティファクト、またはコーパストポロジーに敏感なグローバルしきい値に依存している。 本稿では,検査システムから参照を構成する自己参照検出フレームワークであるRAGSieveを提案する。 共同配備により攻撃成功率は67.4%から14.0%に減少し、41.3%のF1を維持している。
  論文  参考訳（メタデータ） (2026-08-13T09:29:48Z)
• Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection [0.0]
  本稿では,検索境界ディフェンスを用いた3層マルチエージェント侵入検出フレームワークであるRAG-IDSを提案する。 即時注入では、複数文書検索ではラベルフリップが0.6-2.4%に制限され、シングルドキュメント検索では35-55%に制限された。
  論文  参考訳（メタデータ） (2026-08-08T12:29:47Z)
• Salience Induction against Multi-Hop RAG Agents: Threat and Defense [13.060227960421171]
  検索トレースをセマンティックに残しながらマルチホップバインディングをリダイレクトする真理保存編集として,サリエンス誘導を形式化する。 30%の編集予算の下で、サリエンス誘導は83.3%の攻撃成功率を達成した。 我々の軽量な入力側防御であるSalience Normalizationは、標準的な攻撃で15.3%、適応攻撃で23.6%に攻撃成功を減少させる。
  論文  参考訳（メタデータ） (2026-07-20T04:27:50Z)
• MaskForge: Structure-Aware Adaptive Attacks for Jailbreaking Diffusion Large Language Models [53.05463623673949]
  MaskForgeは完全にブラックボックス対応の攻撃で、構造パターンのライブラリを最適化した検索としてdLLMのレッドチームを実行する。 攻撃成功率は79.3%であり、最強のdLLMベースラインよりも17.6%向上している。
  論文  参考訳（メタデータ） (2026-06-01T18:10:21Z)
• Architecture Matters: Comparing RAG Systems under Knowledge Base Poisoning [0.0]
  RAGシステムは知識ベース中毒に弱いが、既存の攻撃はほとんどバニラレトリプタン生成パイプラインに対して評価されている。 我々は,921の自然質問QAペアに対して,制御された単一文書中毒の4つのRAGアーキテクチャ(vanilla RAG, agentic RAG, MADAM-RAG, Recursive Language Models)を評価した。
  論文  参考訳（メタデータ） (2026-05-07T03:36:14Z)
• Semantic Chameleon: Corpus-Dependent Poisoning Attacks and Defenses in RAG Systems [0.0]
  Retrieval-Augmented Generation (RAG) システムは、大きな言語モデルを外部知識ソースで拡張する。 特に、敵は、悪意のある文書が推論時に優先的に検索されるように、毒検索コーパスを付与することができる。 本研究では,最近のRAGパイプラインに対するグラデーション誘導コーパス中毒攻撃について検討し,検索層防御の評価を行った。
  論文  参考訳（メタデータ） (2026-03-10T23:15:13Z)
• BiRQA: Bidirectional Robust Quality Assessment for Images [49.74447451098852]
  フル参照画像品質評価(FR IQA)は、画像圧縮、復元、生成モデリングにおいて重要である。 本稿では、双方向の多スケールピラミッド内で4つの高速補完特徴を処理するコンパクトFR IQA計量モデルであるBiRQAを提案する。 5つのパブリックFR IQAベンチマークでは、BiRQAは以前のSOTAモデルよりも3倍高速で動作しながら、以前の状態(SOTA)より優れ、あるいは一致している。
  論文  参考訳（メタデータ） (2026-02-23T20:52:56Z)
• BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
  マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。 両課題に対処する統合フレームワークであるBadCLIP++を提案する。 ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。 持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
  論文  参考訳（メタデータ） (2026-02-19T08:31:16Z)
• AI Security Beyond Core Domains: Resume Screening as a Case Study of Adversarial Vulnerabilities in Specialized LLM Applications [71.27518152526686]
  大きな言語モデル(LLM)はテキストの理解と生成に優れており、コードレビューやコンテンツモデレーションといった自動タスクに最適である。 LLMは履歴書やコードなどの入力データに隠された「逆命令」で操作でき、意図したタスクから逸脱する。 本稿では,特定の攻撃タイプに対して80%以上の攻撃成功率を示すとともに,この脆弱性を再開スクリーニングで評価するためのベンチマークを提案する。
  論文  参考訳（メタデータ） (2025-12-23T08:42:09Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• Neural Antidote: Class-Wise Prompt Tuning for Purifying Backdoors in CLIP [51.04452017089568]
  CBPT(Class-wise Backdoor Prompt Tuning)は、テキストプロンプトでCLIPを間接的に浄化する効率的な防御機構である。 CBPTは、モデルユーティリティを保持しながら、バックドアの脅威を著しく軽減する。
  論文  参考訳（メタデータ） (2025-02-26T16:25:15Z)
• Improved Generation of Adversarial Examples Against Safety-aligned LLMs [72.38072942860309]
  勾配に基づく手法を用いて生成した敵対的プロンプトは、安全対応のLDMに対して自動ジェイルブレイク攻撃を行う際、優れた性能を示す。 本稿では,この問題に対する新たな視点を探求し,トランスファーベースの攻撃にインスパイアされたイノベーションを活用することで緩和できることを示唆する。 この組み合わせによって生成されたクエリ固有逆接接尾辞の87%がLlama-2-7B-Chatを誘導し、AdvBench上のターゲット文字列と正確に一致する出力を生成することを示した。
  論文  参考訳（メタデータ） (2024-05-28T06:10:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。