論文の概要: A Survey on Proactive Defense Strategies Against Misinformation in Large Language Models

• arxiv url: http://arxiv.org/abs/2507.05288v1
• Date: Sat, 05 Jul 2025 09:52:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-09 16:34:37.232841
• Title: A Survey on Proactive Defense Strategies Against Misinformation in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける誤情報に対する積極的な防衛戦略に関する調査
• Authors: Shuliang Liu, Hongyi Liu, Aiwei Liu, Bingchen Duan, Qi Zheng, Yibo Yan, He Geng, Peijie Jiang, Jia Liu, Xuming Hu,
• Abstract要約: 本稿では,受動的ポストホック検出から予測緩和戦略へ移行する,積極的な防御パラダイムを提案する。 本研究は,従来の誤報防止手法よりも最大63%改善した防御戦略を実証する。
• 参考スコア（独自算出の注目度）: 23.046017613121737
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The widespread deployment of large language models (LLMs) across critical domains has amplified the societal risks posed by algorithmically generated misinformation. Unlike traditional false content, LLM-generated misinformation can be self-reinforcing, highly plausible, and capable of rapid propagation across multiple languages, which traditional detection methods fail to mitigate effectively. This paper introduces a proactive defense paradigm, shifting from passive post hoc detection to anticipatory mitigation strategies. We propose a Three Pillars framework: (1) Knowledge Credibility, fortifying the integrity of training and deployed data; (2) Inference Reliability, embedding self-corrective mechanisms during reasoning; and (3) Input Robustness, enhancing the resilience of model interfaces against adversarial attacks. Through a comprehensive survey of existing techniques and a comparative meta-analysis, we demonstrate that proactive defense strategies offer up to 63\% improvement over conventional methods in misinformation prevention, despite non-trivial computational overhead and generalization challenges. We argue that future research should focus on co-designing robust knowledge foundations, reasoning certification, and attack-resistant interfaces to ensure LLMs can effectively counter misinformation across varied domains.
• Abstract（参考訳）: 臨界領域にまたがる大規模言語モデル(LLM)の広範な展開は、アルゴリズムによって生成された誤情報によって引き起こされる社会的リスクを増幅している。 従来の偽情報とは異なり、LLM生成の誤報は自己修復性が高く、複数の言語にまたがる迅速な伝播が可能であり、従来の検出方法では効果的に軽減できない。 本稿では,受動的ポストホック検出から予測緩和戦略へ移行する,積極的な防御パラダイムを提案する。 本研究では,(1)知識の信頼性,トレーニングと運用データの整合性の強化,(2)推論の信頼性,推論中の自己補正機構の埋め込み,(3)モデルインタフェースの対人攻撃に対するレジリエンスを高める入力ロバスト性を提案する。 既存の手法とメタアナリシスの総合的な調査を通じて,非自明な計算オーバーヘッドや一般化の課題にもかかわらず,従来の偽情報防止手法よりも最大63%向上したプロアクティブディフェンス戦略を実証した。 今後の研究は、堅牢な知識基盤、推論証明、攻撃耐性インターフェースを共同設計することに集中して、LLMが様々な領域の誤情報に効果的に対処できることを論じる。

関連論文リスト

• A Survey on Model Extraction Attacks and Defenses for Large Language Models [55.60375624503877]
  モデル抽出攻撃は、デプロイされた言語モデルに重大なセキュリティ脅威をもたらす。 この調査は、抽出攻撃と防御攻撃の包括的分類、機能抽出への攻撃の分類、データ抽出の訓練、およびプロンプトターゲット攻撃を提供する。 モデル保護,データプライバシ保護,迅速なターゲット戦略に編成された防御機構について検討し,その効果を異なる展開シナリオで評価する。
  論文  参考訳（メタデータ） (2025-06-26T22:02:01Z)
• Unmasking Digital Falsehoods: A Comparative Analysis of LLM-Based Misinformation Detection Strategies [0.0]
  本稿では,テキストベース,マルチモーダル,エージェント間の誤情報検出手法の比較を行う。 本研究では,異なる話題領域における誤情報検出における微調整モデル,ゼロショット学習,系統的事実チェック機構の有効性を評価する。
  論文  参考訳（メタデータ） (2025-03-02T04:31:42Z)
• Game-Theoretic Defenses for Robust Conformal Prediction Against Adversarial Attacks in Medical Imaging [12.644923600594176]
  敵対的攻撃は、ディープラーニングモデルの信頼性と安全性に重大な脅威をもたらす。 本稿では,共形予測とゲーム理論の防衛戦略を統合する新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2024-11-07T02:20:04Z)
• Robust Image Classification: Defensive Strategies against FGSM and PGD Adversarial Attacks [0.0]
  敵対的攻撃は、画像分類におけるディープラーニングモデルの堅牢性に重大な脅威をもたらす。 本稿では,ニューラルネットワークのレジリエンスを高めるために,これらの攻撃に対する防御機構を探索し,洗練する。
  論文  参考訳（メタデータ） (2024-08-20T02:00:02Z)
• Imposter.AI: Adversarial Attacks with Hidden Intentions towards Aligned Large Language Models [13.225041704917905]
  本研究では,大規模言語モデルから有害情報を抽出するために,人間の会話戦略を活かした攻撃機構を明らかにする。 明示的な悪意のある応答をターゲットとする従来の手法とは異なり、我々のアプローチは応答で提供される情報の性質を深く掘り下げている。
  論文  参考訳（メタデータ） (2024-07-22T06:04:29Z)
• Data Poisoning for In-context Learning [49.77204165250528]
  In-context Learning (ICL)は、新しいタスクに適応する革新的な能力として認識されている。 本論文は、ICLのデータ中毒に対する感受性の重大な問題について述べる。 ICLの学習メカニズムを活用するために考案された特殊攻撃フレームワークであるICLPoisonを紹介する。
  論文  参考訳（メタデータ） (2024-02-03T14:20:20Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Adversarial Augmentation Policy Search for Domain and Cross-Lingual Generalization in Reading Comprehension [96.62963688510035]
  理解モデルを読むことは、しばしばトレーニングデータセットのニュアンスに過度に適合し、敵対的な評価に失敗する。 本稿では,複数の効果的な敵と自動データ拡張ポリシー探索手法を提案し,対角的評価に対して,読解理解モデルをより堅牢にすることを目的とする。
  論文  参考訳（メタデータ） (2020-04-13T17:20:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。