論文の概要: Critical-CoT: A Robust Defense Framework against Reasoning-Level Backdoor Attacks in Large Language Models

• arxiv url: http://arxiv.org/abs/2604.10681v2
• Date: Thu, 16 Apr 2026 17:29:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-17 16:09:14.148191
• Title: Critical-CoT: A Robust Defense Framework against Reasoning-Level Backdoor Attacks in Large Language Models
• Title（参考訳）: critical-CoT:大規模言語モデルにおける推論レベルバックドア攻撃に対するロバストな防御フレームワーク
• Abstract要約: 大規模言語モデル(LLM)は、バックドア攻撃に弱いことが示されている。 近年の進歩は、現代的なLCMの長期的推論傾向を利用して、推論レベルのバックドアを運用している。 LLM上で2段階の微調整を行う新しい防衛機構であるCritical-CoTを提案する。
• 参考スコア（独自算出の注目度）: 4.4331439696271415
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs), despite their impressive capabilities across domains, have been shown to be vulnerable to backdoor attacks. Prior backdoor strategies predominantly operate at the token level, where an injected trigger causes the model to generate a specific target word, choice, or class (depending on the task). Recent advances, however, exploit the long-form reasoning tendencies of modern LLMs to conduct reasoning-level backdoors: once triggered, the victim model inserts one or more malicious reasoning steps into its chain-of-thought (CoT). These attacks are substantially harder to detect, as the backdoored answer remains plausible and consistent with the poisoned reasoning trajectory. Yet, defenses tailored to this type of backdoor remain largely unexplored. To bridge this gap, we propose Critical-CoT, a novel defense mechanism that conducts a two-stage fine-tuning (FT) process on LLMs to develop critical thinking behaviors, enabling them to automatically identify potential backdoors and refuse to generate malicious reasoning steps. Extensive experiments across multiple LLMs and datasets demonstrate that Critical-CoT provides strong robustness against both in-context learning-based and FT-based backdoor attacks. Notably, Critical-CoT exhibits strong cross-domain and cross-task generalization. Our code is available at hthttps://github.com/tuanvu171/Critical-CoT.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、ドメイン間で印象的な機能にもかかわらず、バックドア攻撃に弱いことが示されている。 以前のバックドア戦略は、主にトークンレベルで動作し、インジェクションされたトリガーがモデルに特定のターゲットワード、選択、クラス(タスクに依存する)を生成する。 しかし、近年の進歩は、現代のLLMの長期的推論の傾向を利用して推論レベルのバックドアを実行している: 一度トリガーされると、被害者モデルは1つ以上の悪意ある推論ステップをそのチェーン・オブ・シント(CoT)に挿入する。 これらの攻撃は、バックドアの答えが、有毒な推論軌道と一致しているため、検出が極めて困難である。 しかし、この種のバックドアに合わせた防御は、ほとんど未調査のままである。 このギャップを埋めるために,LLM上で2段階の微調整(FT)プロセスを実行する新しい防衛機構であるCritical-CoTを提案する。 複数のLLMとデータセットにわたる大規模な実験は、Critical-CoTが、コンテキスト内学習ベースとFTベースのバックドア攻撃の両方に対して強力な堅牢性を提供することを示している。 特にCritical-CoTは強いクロスドメインとクロスタスクの一般化を示す。 私たちのコードはhthttps://github.com/tuanvu171/Critical-CoT.comで公開されています。

関連論文リスト

• TraceGuard: Process-Guided Firewall against Reasoning Backdoors in Large Language Models [19.148124494194317]
  我々は,小規模モデルを堅牢な推論ファイアウォールに変換するプロセス誘導型セキュリティフレームワークであるTraceGuardを提案する。 提案手法は,推理トレースを信頼できないペイロードとして扱い,詳細な防衛戦略を確立する。 グレーボックス設定における適応的敵に対する堅牢性を実証し、TraceGuardを実用的で低レイテンシなセキュリティプリミティブとして確立する。
  論文  参考訳（メタデータ） (2026-03-02T22:19:13Z)
• Backdooring Bias in Large Language Models [14.716606966924495]
  大きな言語モデル(LLM)は、特定のトピックに対する偏見を誘発する設定に、ますます多くデプロイされている。 バックドア攻撃はそのようなモデルを作成するのに使用できる。 我々は,高毒性比とデータ増大量を用いた1000以上の評価を行い,分析を行った。
  論文  参考訳（メタデータ） (2026-02-13T20:02:16Z)
• MTAttack: Multi-Target Backdoor Attacks against Large Vision-Language Models [52.37749859972453]
  我々は,LVLMにおける複数のトリガターゲットマッピングを正確に行うための,最初のマルチターゲットバックドアアタックフレームワークであるMTAttackを提案する。 人気のあるベンチマークの実験では、マルチターゲット攻撃に対するMTAttackの成功率が高いことが示されている。 我々の攻撃は、データセット間での強力な一般化性と、バックドア防衛戦略に対する堅牢性を示す。
  論文  参考訳（メタデータ） (2025-11-13T09:00:21Z)
• Lethe: Purifying Backdoored Large Language Models with Knowledge Dilution [49.78359632298156]
  大規模言語モデル(LLM)は、様々な自然言語処理(NLP)タスクにおいて優れたパフォーマンスを達成し、大幅な進歩を遂げている。 標準クエリではモデルが正常に動作しますが、特定のトリガがアクティブになると、有害な応答や意図しない出力を生成します。 本稿では,LLMからのバックドアの挙動を知識希釈により除去する新しい手法LETHEを提案する。
  論文  参考訳（メタデータ） (2025-08-28T17:05:18Z)
• ELBA-Bench: An Efficient Learning Backdoor Attacks Benchmark for Large Language Models [55.93380086403591]
  生成可能な大規模言語モデルは、バックドアアタックに対して脆弱である。 $textitELBA-Bench$は、パラメータを効率的に微調整することで攻撃者がバックドアを注入できるようにする。 $textitELBA-Bench$は1300以上の実験を提供する。
  論文  参考訳（メタデータ） (2025-02-22T12:55:28Z)
• Defending Code Language Models against Backdoor Attacks with Deceptive Cross-Entropy Loss [26.24490960002264]
  コード言語モデル(CLM)は、コードインテリジェンス領域において大きな成功を収めた。 セキュリティの問題、特にバックドア攻撃は、このプロセスでしばしば見過ごされる。 これまでの研究では、CLMのバックドア攻撃の設計に焦点が当てられていたが、効果的な防御は適切に対処されていない。
  論文  参考訳（メタデータ） (2024-07-12T03:18:38Z)
• Securing Multi-turn Conversational Language Models From Distributed Backdoor Triggers [29.554818890832887]
  大規模言語モデル(LLM)は、長いコンテキスト長を処理し、テキストでニュアンスを理解する能力を獲得した。 本稿では,LDMのマルチターン機能と強力な学習能力を利用してエンドユーザを害する脆弱性を明らかにする。 本稿では, 応答列長を線形に拡張し, バックドアを0.35%まで小さくする復号時間ディフェンスを提案する。
  論文  参考訳（メタデータ） (2024-07-04T20:57:06Z)
• Revisiting Backdoor Attacks against Large Vision-Language Models from Domain Shift [104.76588209308666]
  本稿では,LVLMの学習訓練におけるバックドア攻撃について検討する。 我々は,攻撃の堅牢性を評価するために,新たな評価次元,バックドア領域の一般化を導入する。 本稿では,ドメイン非依存的トリガを臨界領域に注入するマルチモーダルアトリビューションバックドアアタック(MABA)を提案する。
  論文  参考訳（メタデータ） (2024-06-27T02:31:03Z)
• A Survey of Recent Backdoor Attacks and Defenses in Large Language Models [28.604839267949114]
  人間の言語理解と複雑な問題解決のギャップを埋める大規模言語モデル(LLM)は、いくつかのNLPタスクで最先端のパフォーマンスを達成する。 研究は、言語モデルは潜在的なセキュリティ上の脆弱性、特にバックドア攻撃の影響を受けやすいことを実証している。 本稿では, 微調整手法に着目し, LLMのバックドア攻撃に対する新たな視点について述べる。
  論文  参考訳（メタデータ） (2024-06-10T23:54:21Z)
• On the Difficulty of Defending Contrastive Learning against Backdoor Attacks [58.824074124014224]
  バックドア攻撃が、特有のメカニズムによってどのように動作するかを示す。 本研究は, 対照的なバックドア攻撃の特異性に合わせて, 防御の必要性を浮き彫りにした。
  論文  参考訳（メタデータ） (2023-12-14T15:54:52Z)
• BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
  本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。 バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
  論文  参考訳（メタデータ） (2023-11-20T02:21:49Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。