論文の概要: Adversarial Robustness of Retrieval-Based Fact-Checking: Detecting and Mitigating Evidence Contamination

• arxiv url: http://arxiv.org/abs/2611.02139v1
• Date: Sun, 01 Nov 2026 19:18:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-12 06:01:10.286459
• Title: Adversarial Robustness of Retrieval-Based Fact-Checking: Detecting and Mitigating Evidence Contamination
• Title（参考訳）: 検索型Fact-Checkingの対向ロバスト性:証拠汚染の検出と軽減
• Abstract要約: 敵対的証拠の汚染は、検証精度を46.9%まで下げることができる。 本稿では,高密度埋め込みピアコヒーレンスと語彙分布分離を融合したGLAD(Geometric-Lexical Adversarial Defense)を提案する。 2つのベンチマーク、2つの埋め込みモデル、5つのランダムシードにおいて、GLADは最も高い検出率(70-86%)と最も一貫性のあるF1リカバリを達成する。
• 参考スコア（独自算出の注目度）: 1.329253775274691
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Retrieval-based fact-checking systems ground verification in large document collections, creating a critical vulnerability: adversarial evidence contamination. We demonstrate that factually inconsistent but contextually coherent evidence generated to satisfy both retrieval-similarity and linguistic-fluency constraints can systematically mislead verification models. Contaminating just 3.1-7.4% of training corpora with five label-specific strategies causes adversarial content to penetrate up to 35.2% of top-k retrievals, degrading verification accuracy by up to 46.9% relative F1. Existing retrieval-stage defenses, validated against gradient-optimized or syntactically anomalous attacks, transfer poorly to this threat model: detection rates collapse and F1 recovery exhibits high variance across seeds. We propose GLAD (Geometric-Lexical Adversarial Defense), which fuses dense embedding peer-coherence with lexical distributional isolation. Across two benchmarks, two embedding models, and five random seeds, GLAD achieves the highest detection rates (70-86%) and the most consistent F1 recovery, reclaiming 73-80% of contamination-induced degradation on LIAR-RAW while approaching clean baselines on RAWFC. Crucially, unlike defenses that trade clean performance for robustness, GLAD imposes negligible cost on uncontaminated corpora.
• Abstract（参考訳）: 検索ベースのファクトチェックシステムは、大規模な文書コレクションで検証し、重大な脆弱性を生み出します。 検索類似性および言語-周波数制約の両方を満たすために生成される事実的不整合かつ文脈的整合性証拠は、体系的に検証モデルを誤解させる可能性があることを実証する。 トレーニングコーパスの3.1-7.4%とラベル固有の5つの戦略によって、敵対的コンテンツがトップk検索の35.2%まで浸透し、検証精度を46.9%まで低下させる。 既存の探索段階の防御は、勾配最適化または統語的異常攻撃に対して検証され、検出率の崩壊とF1回復は種子間で高いばらつきを示す。 本稿では,高密度埋め込みピアコヒーレンスと語彙分布分離を融合したGLAD(Geometric-Lexical Adversarial Defense)を提案する。 2つのベンチマーク、2つの埋め込みモデル、5つのランダムシードにおいて、GLADは最も高い検出率(70-86%)と最も一貫したF1リカバリを実現し、RAWFCのクリーンベースラインに近づきながら、LIAR-RAW上で汚染による劣化の73-80%を回復した。 重要なことに、ロバスト性のためにクリーンなパフォーマンスを取引する防衛と異なり、GLADは汚染されていないコーパスに無視できるコストを課している。

関連論文リスト

• Robust Detection of LLM-Generated Text under Contamination [30.266604144013126]
  編集および汚染下でのLLM生成テキストの検出について検討した。 前提条件下での信頼性検出の正確な境界を特徴付ける。 このバウンダリの下には、クリッピングされた可能性比テストのコレクションが最悪のケースエラーを発生させる。
  論文  参考訳（メタデータ） (2026-09-24T15:01:38Z)
• From Causal Plausibility to Causal Reliability: Evaluating LLMs as Calibrated Direct Causal-Edge Classifiers [15.44881677475537]
  大規模言語モデル(LLM)は、構造因果発見のための事前因果的知識を提供するために、ますます使われてきている。 我々は,6つのベンチマーク因果グラフ,5つのプロンプト戦略,4つの信頼源にまたがる12の命令調整されたオープンウェイトモデルを評価する。 以上の結果から,LSMは軟因果関係の直接的証拠であるよりも,外部から検証された軟因果関係の源であると考えられることが示唆された。
  論文  参考訳（メタデータ） (2026-08-24T15:55:47Z)
• Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection [0.0]
  本稿では,検索境界ディフェンスを用いた3層マルチエージェント侵入検出フレームワークであるRAG-IDSを提案する。 即時注入では、複数文書検索ではラベルフリップが0.6-2.4%に制限され、シングルドキュメント検索では35-55%に制限された。
  論文  参考訳（メタデータ） (2026-08-08T12:29:47Z)
• FedSurrogate: Backdoor Defense in Federated Learning via Layer Criticality and Surrogate Replacement [3.3664896840786525]
  フェデレートラーニングは、バックドア攻撃の影響を受けやすい。 既存の防衛は、現実的な非独立かつ同一に分散された(非IID)データの下で、実質的な偽陽性率に悩まされている。 本稿では,2方向勾配フィルタと層適応型異常検出を組み合わせることで,この制限に対処する新しいバックドアディフェンスであるFedSurrogateを提案する。
  論文  参考訳（メタデータ） (2026-05-11T18:30:32Z)
• Towards Trustworthy Depression Estimation via Disentangled Evidential Learning [50.22167852149165]
  EviDepはうつ病の重症度を共同で定量化する明らかな学習フレームワークである。 EviDepは、堅牢な証拠合成を保証するために厳密な情報整合性を強制する。 最先端の予測精度と優れた不確実性校正を実現し、信頼できる臨床スクリーニングのための堅牢なフェールセーフメカニズムを提供する。
  論文  参考訳（メタデータ） (2026-04-17T13:27:11Z)
• Negation is Not Semantic: Diagnosing Dense Retrieval Failure Modes for Trade-offs in Contradiction-Aware Biomedical QA [1.0330395403064265]
  大言語モデル (LLMs) は質問応答において強い能力を示してきたが、検証不可能なクレームを生成する傾向は、臨床環境において重大なリスクをもたらす。 これらのリスクを軽減するため、TREC 2025 BioGenトラックは、矛盾する証拠を明示的に提示する根拠のついた回答を義務付けている。 本稿では、SciFactデータセットを用いて、検索アーキテクチャを体系的に最適化するプロキシベースの開発フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-18T10:35:44Z)
• BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
  マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。 両課題に対処する統合フレームワークであるBadCLIP++を提案する。 ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。 持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
  論文  参考訳（メタデータ） (2026-02-19T08:31:16Z)
• CausalDiff: Causality-Inspired Disentanglement via Diffusion Model for Adversarial Defense [61.78357530675446]
  人間は、本質的な要因のみに基づいて判断するので、微妙な操作によって騙されるのは難しい。 この観察に触発されて、本質的なラベル因果因子を用いたラベル生成をモデル化し、ラベル非因果因子を組み込んでデータ生成を支援する。 逆の例では、摂動を非因果因子として識別し、ラベル因果因子のみに基づいて予測することを目的としている。
  論文  参考訳（メタデータ） (2024-10-30T15:06:44Z)
• Improved Certified Defenses against Data Poisoning with (Deterministic) Finite Aggregation [122.83280749890078]
  本報告では, 一般中毒に対する予防的対策として, フィニット・アグリゲーション(Finite Aggregation)を提案する。 トレーニングセットを直接非結合部分集合に分割するDPAとは対照的に、我々の方法はまず、トレーニングセットをより小さな非結合部分集合に分割する。 我々は、決定論的および集約的認証された防御設計をブリッジして、我々の方法の代替的な見解を提供する。
  論文  参考訳（メタデータ） (2022-02-05T20:08:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。