論文の概要: Be Kind, Rewrite: Benign Projections via Rewriting Defend Against LLM Data Poisoning Attacks

• arxiv url: http://arxiv.org/abs/2605.19147v1
• Date: Mon, 18 May 2026 21:56:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:09.008199
• Title: Be Kind, Rewrite: Benign Projections via Rewriting Defend Against LLM Data Poisoning Attacks
• Title（参考訳）: 控えめに言って、リライトする: LLMデータ中毒攻撃に対する防御策を書き換えることによる、良質な予測
• Abstract要約: 我々は、データ中毒攻撃に対する積極的な防御手段として、オープンブックベニグのサンプルであるオープンブックベニグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグ OBBRの安全性は,最先端のBAディフェンスと比較して平均51%向上し,クローズドブックリライト法に比べて25.7%向上した。
• 参考スコア（独自算出の注目度）: 0.42970700836450476
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are highly susceptible to backdoor attacks (BAs), wherein training samples are poisoned using trigger-based harmful content. Furthermore, existing defenses have proven ineffective when extensively tested across BA patterns. To better combat BAs, we explore the use of LLM rewriting as a proactive defense against data poisoning. First, we theoretically show that when LLM rewriting utilizes open-book benign samples--termed open-book benign rewriting (OBBR)--the probability of a rewritten output being benign is strictly greater than that of closed-book rewriting. Thus, OBBR neutralizes harmful content by projecting training samples to the space of benign prompts. We then show that, in contrast to previous defenses, OBBR effectively mitigates a large number of existing BAs: across five known BAs and four widely used LLMs, OBBR increases safety performance by an average 51% compared to state-of-the-art BA defenses and 25.7% compared to closed-book rewriting methods. Finally, we show that OBBR is computationally efficient relative to other BA defenses, does not degrade model performance on natural language tasks after fine-tuning, and is capable of defending against non-trigger based data poisoning attacks.
• Abstract（参考訳）: 大規模言語モデル(LLM)はバックドアアタック(BA)に対して非常に感受性が高く、トレーニングサンプルはトリガーベースの有害な内容によって毒される。 さらに、BAパターンにまたがって広範なテストを行うと、既存の防御は効果がないことが証明されている。 BAとの戦いをより良くするために,データ中毒に対する予防的防御としてLLM書き換えを用いることを検討する。 まず, LLM書き換えがオープンブックベニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグナグニグニグニグニグニグニグニグニグニグニグニグニグニグナグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグナグニグニグニグナグニグナグニグナグナグニグナグナグニグナグニグナグニグナグニグニグナグナグニグニグナグナグニグニグナグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグニグ したがって、OBBRは、訓練サンプルを良性プロンプトの空間に投射することで有害な内容を中和する。 OBBRは, 従来の防衛と対照的に, 5つの既知のBAと4つのLLMをまたいだ多数の既存のBAを効果的に軽減し, OBBRは, 最先端のBAディフェンスと比較して平均51%, クローズドブックリライト法と比較して25.7%の安全性向上を図っている。 最後に、OBBRは、他のBAディフェンスと比較して計算効率が良く、微調整後の自然言語処理におけるモデル性能を劣化させることなく、非トリガーベースのデータ中毒攻撃に対して防御できることを示す。

関連論文リスト

• The Invitation Trap: Proactive Availability Backdoor in LLMs via Conversational Induction [17.83941673460122]
  我々は,攻撃ベクトルをパッシブ待ちからアクティブソーシャルエンジニアリングに移行する新しいパラダイムであるtextbfProactive Availability Backdoor (PAB)を紹介した。 整列 LLM の本質的な有用性を武器化することにより、PAB はユーザを積極的にトラップしてトリガー実装クエリを実行させる。
  論文  参考訳（メタデータ） (2026-05-30T09:57:42Z)
• P2P: A Poison-to-Poison Remedy for Reliable Backdoor Defense in LLMs [49.908234151374785]
  微調整の間、大規模言語モデル(LLM)は、データポゾンによるバックドア攻撃に対してますます脆弱である。 汎用的で効果的なバックドアディフェンスアルゴリズムであるPoison-to-Poison (P2P)を提案する。 P2Pはタスク性能を維持しながら悪質なバックドアを中和できることを示す。
  論文  参考訳（メタデータ） (2025-10-06T05:45:23Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• No Query, No Access [50.18709429731724]
  被害者のテキストのみを使用して動作する textbfVictim Data-based Adrial Attack (VDBA) を導入する。 被害者モデルへのアクセスを防止するため、公開されている事前トレーニングモデルとクラスタリングメソッドを備えたシャドウデータセットを作成します。 EmotionとSST5データセットの実験によると、VDBAは最先端の手法より優れており、ASRの改善は52.08%である。
  論文  参考訳（メタデータ） (2025-05-12T06:19:59Z)
• CleanerCLIP: Fine-grained Counterfactual Semantic Augmentation for Backdoor Defense in Contrastive Learning [53.766434746801366]
  バックドアトリガの特徴的接続を遮断するための細粒な textbfText textbfAlignment textbfCleaner (TA-Cleaner) を提案する。 TA-Cleanerは、ファインタニングベースの防御技術の中で最先端の防御性を達成している。
  論文  参考訳（メタデータ） (2024-09-26T07:35:23Z)
• SORRY-Bench: Systematically Evaluating Large Language Model Safety Refusal [64.9938658716425]
  SORRY-Benchは、安全でないユーザ要求を認識し拒否する大規模言語モデル(LLM)能力を評価するためのベンチマークである。 まず、既存の手法では、安全でないトピックの粗い分類を使い、いくつかのきめ細かいトピックを過剰に表現している。 第二に、プロンプトの言語的特徴とフォーマッティングは、様々な言語、方言など、多くの評価において暗黙的にのみ考慮されているように、しばしば見過ごされる。
  論文  参考訳（メタデータ） (2024-06-20T17:56:07Z)
• Round Trip Translation Defence against Large Language Model Jailbreaking Attacks [11.593052831056841]
  本研究では,大規模言語モデルに対する社会工学的攻撃から守るために設計された,最初のアルゴリズムを提案する。 我々の防衛は、PAIR(Prompt Automatic Iterative Refinement)攻撃の70%以上を軽減できた。 また、MathsAttackを緩和し、攻撃成功率を約40%削減した最初の試みです。
  論文  参考訳（メタデータ） (2024-02-21T03:59:52Z)
• DALA: A Distribution-Aware LoRA-Based Adversarial Attack against Language Models [64.79319733514266]
  敵攻撃は入力データに微妙な摂動をもたらす可能性がある。 最近の攻撃方法は比較的高い攻撃成功率(ASR)を達成することができる。 そこで本研究では,分散ロラをベースとしたDALA(Adversarial Attack)手法を提案する。
  論文  参考訳（メタデータ） (2023-11-14T23:43:47Z)
• Defending against Insertion-based Textual Backdoor Attacks via Attribution [18.935041122443675]
  本稿では,2つの挿入型毒殺攻撃を防ぎ,効果的な帰属型パイプラインであるAttDefを提案する。 具体的には、より大きな帰属語が誤予測結果に寄与するため、より大きな帰属スコアを持つトークンを潜在的トリガーとみなす。 提案手法は2つの共通攻撃シナリオにおいて十分に一般化可能であることを示す。
  論文  参考訳（メタデータ） (2023-05-03T19:29:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。