論文の概要: Adversarial Attacks Against Automated Fact-Checking: A Survey

• arxiv url: http://arxiv.org/abs/2509.08463v1
• Date: Wed, 10 Sep 2025 10:10:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-11 15:16:52.382998
• Title: Adversarial Attacks Against Automated Fact-Checking: A Survey
• Title（参考訳）: 自動ファクトチェッキングに対する敵対的攻撃:調査
• Authors: Fanzhen Liu, Alsharif Abuadbba, Kristen Moore, Surya Nepal, Cecile Paris, Jia Wu, Jian Yang, Quan Z. Sheng,
• Abstract要約: 本調査は,ファクトチェックシステムを対象とした敵攻撃の詳細な調査である。 敵意識の防御の最近の進歩を考察し,オープンな研究課題を浮き彫りにした。 本研究は, 逆行性操作に耐えられるレジリエントFCフレームワークの緊急ニーズを浮き彫りにするものである。
• 参考スコア（独自算出の注目度）: 36.08022268176274
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In an era where misinformation spreads freely, fact-checking (FC) plays a crucial role in verifying claims and promoting reliable information. While automated fact-checking (AFC) has advanced significantly, existing systems remain vulnerable to adversarial attacks that manipulate or generate claims, evidence, or claim-evidence pairs. These attacks can distort the truth, mislead decision-makers, and ultimately undermine the reliability of FC models. Despite growing research interest in adversarial attacks against AFC systems, a comprehensive, holistic overview of key challenges remains lacking. These challenges include understanding attack strategies, assessing the resilience of current models, and identifying ways to enhance robustness. This survey provides the first in-depth review of adversarial attacks targeting FC, categorizing existing attack methodologies and evaluating their impact on AFC systems. Additionally, we examine recent advancements in adversary-aware defenses and highlight open research questions that require further exploration. Our findings underscore the urgent need for resilient FC frameworks capable of withstanding adversarial manipulations in pursuit of preserving high verification accuracy.
• Abstract（参考訳）: 誤報が自由に拡散する時代には、事実確認(FC)はクレームの検証や信頼できる情報の促進に重要な役割を果たす。 自動ファクトチェック(AFC)は大幅に進歩しているが、既存のシステムは、クレーム、エビデンス、クレーム・エビデンス・ペアを操作または生成する敵攻撃に弱いままである。 これらの攻撃は真実を歪め、意思決定者を誤解させ、最終的にFCモデルの信頼性を損なう。 AFCシステムに対する敵対的攻撃に対する研究の関心は高まりつつあるが、主要な課題の包括的、総合的な概要は依然として不足している。 これらの課題には、攻撃戦略の理解、現在のモデルのレジリエンスの評価、堅牢性を高める方法の特定が含まれる。 本調査は、FCを標的とした敵攻撃の詳細な調査を行い、既存の攻撃手法を分類し、AFCシステムへの影響を評価する。 さらに,近年の敵意識の防御の進歩を考察し,さらなる探索を必要とするオープンな研究課題を強調した。 本研究は, 高い精度の保存を追求するために, 敵の操作に耐えられるレジリエントFCフレームワークの必要性を浮き彫りにした。

関連論文リスト

• Benchmarking Misuse Mitigation Against Covert Adversaries [80.74502950627736]
  既存の言語モデルの安全性評価は、オーバースト攻撃と低レベルのタスクに重点を置いている。 我々は、隠蔽攻撃と対応する防御の評価を自動化するデータ生成パイプラインである、ステートフルディフェンスのためのベンチマーク(BSD)を開発した。 評価の結果,分解攻撃は有効な誤用防止剤であり,その対策としてステートフルディフェンスを強調した。
  論文  参考訳（メタデータ） (2025-06-06T17:33:33Z)
• A Survey and Evaluation of Adversarial Attacks for Object Detection [11.48212060875543]
  深層学習モデルは、信頼できるが誤った予測をすることを欺くような敵対的な例に対して脆弱である。 この脆弱性は、自動運転車、セキュリティ監視、安全クリティカルな検査システムなどの高リスクなアプリケーションに重大なリスクをもたらす。 本稿では,対象検出アーキテクチャに特有の敵攻撃を分類するための新しい分類枠組みを提案する。
  論文  参考訳（メタデータ） (2024-08-04T05:22:08Z)
• Kick Bad Guys Out! Conditionally Activated Anomaly Detection in Federated Learning with Zero-Knowledge Proof Verification [22.078088272837068]
  フェデレートラーニング(FL)システムは、モデル中毒やバックドア攻撃などの敵攻撃に対して脆弱である。 本研究では,実用FLシナリオに特化して設計された新しい異常検出手法を提案する。 本手法では,2段階の条件付き検出機構を用いる。
  論文  参考訳（メタデータ） (2023-10-06T07:09:05Z)
• Defense of Adversarial Ranking Attack in Text Retrieval: Benchmark and Baseline via Detection [12.244543468021938]
  本稿では,敵対的文書に対する2種類の検出タスクを提案する。 敵のランク防衛の調査を容易にするために、ベンチマークデータセットが確立されている。 いくつかの検出基準線の性能を総合的に調査する。
  論文  参考訳（メタデータ） (2023-07-31T16:31:24Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Fact-Saboteurs: A Taxonomy of Evidence Manipulation Attacks against Fact-Verification Systems [80.3811072650087]
  証拠のクレームサレントスニペットを微調整し,多様かつクレームアラインな証拠を生成することが可能であることを示す。 この攻撃は、主張のポストホックな修正に対しても堅牢である。 これらの攻撃は、インスペクタブルとヒューマン・イン・ザ・ループの使用シナリオに有害な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2022-09-07T13:39:24Z)
• Adversarial Attacks against Face Recognition: A Comprehensive Study [3.766020696203255]
  顔認識(FR)システムは優れた検証性能を示した。 近年の研究では、(深い)FRシステムは、知覚できない、または知覚できないが自然に見える対向的な入力画像に興味深い脆弱性を示すことが示されている。
  論文  参考訳（メタデータ） (2020-07-22T22:46:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。