論文の概要: Cancerous Backdoor Attack: Gradual Activation via Invisible Tokens and A Stage Controller

• arxiv url: http://arxiv.org/abs/2610.12644v1
• Date: Thu, 08 Oct 2026 19:05:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.255137
• Title: Cancerous Backdoor Attack: Gradual Activation via Invisible Tokens and A Stage Controller
• Title（参考訳）: 癌性バックドアアタック : 可視トークンとステージコントローラによる経時的活性化
• Abstract要約: がん性バックドアアタックはLLMの推論を段階的に低下させる。 見えないトークンは、ユーザの可視的な要求に現れずに、モデルに隠れたステージを提供する。 我々はいくつかの推論データセットを用いて癌性バックドアアタックを評価した。
• 参考スコア（独自算出の注目度）: 15.701992521386222
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Backdoor Attacks on Large Language Models (LLMs) typically follow a trigger-response pattern, where satisfying a trigger condition activates a single terminal behavior. However, this single-point backdoor activation does not explore attacks in which malicious behavior develops gradually through multiple intermediate stages before reaching the terminal activation stage. We present Cancerous Backdoor Attack, that gradually corrupts an LLM's reasoning over a sequence of interactions by leveraging invisible tokens and a stage controller. Specifically, invisible tokens provide hidden stages to the model without appearing in the user's visible request and the stage controller tracks the attack's progression during inference to realize gradual activation. We evaluate Cancerous Backdoor Attack across several reasoning datasets. The attack consistently produces gradual reasoning corruption across models and tasks. We compare Cancerous Backdoor Attack with prior backdoor attack baselines to demonstrate our proposed attack outperforms the baselines. Our results indicate that reasoning corruption can develop gradually before it becomes visible, making answer accuracy alone insufficient for detecting backdoor attacks.
• Abstract（参考訳）: Backdoor Attacks on Large Language Models (LLM) は通常、トリガー応答パターンに従っており、トリガー条件を満たすと単一の端末動作が起動される。 しかし、このシングルポイントバックドアアクティベーションは、端末アクティベーションステージに到達する前に、複数の中間段階を通して悪意ある動作が徐々に進行する攻撃を探索するものではない。 本稿では, 目に見えないトークンとステージコントローラを活用することで, LLMの操作順序に対する推論を徐々に悪化させるがん性バックドア攻撃について述べる。 具体的には、目に見えないトークンは、ユーザの可視的な要求に現れずにモデルに隠れたステージを提供し、ステージコントローラは、推論中の攻撃の進行を追跡し、段階的なアクティベーションを実現する。 我々はいくつかの推論データセットを用いて癌性バックドアアタックを評価する。 この攻撃は、モデルとタスク間で徐々に推論の腐敗を発生させる。 がん性バックドアアタックとバックドアアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックアタックとアタックアタックアタックアタックアタックアタックアタック 以上の結果から, 裏口攻撃の検出には解答精度が不十分な点が示唆された。

関連論文リスト

• BadAction: Backdoor Attacks on Interactive Video Generation via Action-Guided Triggers [62.90578489020379]
  本研究は,IVGモデルの相互作用に対するバックドア攻撃に関する最初の系統的研究である。 本稿では,行動誘導トリガを利用して攻撃を行うBadActionを提案する。 BadActionはアクションのみのトリガーで平均攻撃成功率は91.0%、マルチモーダルトリガーで80.4%に達する。
  論文  参考訳（メタデータ） (2026-09-30T05:55:09Z)
• BehaviorGuard: Online Backdoor Defense for Deep Reinforcement Learning [32.53874142863277]
  バックドア攻撃は深層強化学習(DRL)に深刻な脅威をもたらす 現在の防衛は、バックドアを除去するためのリバースエンジントリガーやファインタニングのモデルへの報酬異常に依存している。 本稿では,DRLのための行動に基づくバックドア検出・緩和フレームワークであるBehavimentGuardを提案する。
  論文  参考訳（メタデータ） (2026-05-07T10:21:14Z)
• Uncovering and Aligning Anomalous Attention Heads to Defend Against NLP Backdoor Attacks [9.078969469946038]
  バックドア攻撃は、大規模な言語モデルのセキュリティに深刻な脅威をもたらす。 本稿では,注目の類似性に基づくバックドア検出手法を提案する。 我々の手法はバックドア攻撃の成功率を大幅に低下させる。
  論文  参考訳（メタデータ） (2025-11-16T15:26:50Z)
• Not All Prompts Are Secure: A Switchable Backdoor Attack Against Pre-trained Vision Transformers [51.0477382050976]
  この作業でスイッチトークンと呼ばれる追加のプロンプトトークンは、バックドアモードをオンにすることができ、良心的なモデルをバックドアモードに変換することができる。 事前訓練されたモデルを攻撃するため、SWARMと呼ばれる攻撃はトリガを学習し、スイッチトークンを含むトークンをプロンプトする。 多様な視覚認識タスクの実験は、切り替え可能なバックドア攻撃の成功を確認し、95%以上の攻撃成功率を達成した。
  論文  参考訳（メタデータ） (2024-05-17T08:19:48Z)
• Backdoor Attack with Sparse and Invisible Trigger [57.41876708712008]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアアタックは、訓練段階の脅威を脅かしている。 軽度で目に見えないバックドアアタック(SIBA)を提案する。
  論文  参考訳（メタデータ） (2023-05-11T10:05:57Z)
• INK: Inheritable Natural Backdoor Attack Against Model Distillation [8.937026844871074]
  InKは、モデル蒸留を標的とした、継承可能な自然バックドアアタックである。 INKは画像のばらつきをバックドアトリガーとして採用し、クリーンイメージとクリーンラベル攻撃の両方を可能にする。 例えば、INKは、既存の方法では平均1.4%の攻撃成功率に対して、蒸留後98%以上の攻撃成功率を維持している。
  論文  参考訳（メタデータ） (2023-04-21T14:35:47Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• BATT: Backdoor Attack with Transformation-based Triggers [72.61840273364311]
  ディープニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱である。 バックドアの敵は、敵が特定したトリガーパターンによって活性化される隠れたバックドアを注入する。 最近の研究によると、既存の攻撃のほとんどは現実世界で失敗した。
  論文  参考訳（メタデータ） (2022-11-02T16:03:43Z)
• Kallima: A Clean-label Framework for Textual Backdoor Attacks [25.332731545200808]
  マイメシススタイルのバックドアサンプルを合成するための,最初のクリーンラベルフレームワークKallimaを提案する。 我々は,対象クラスに属する入力を逆方向の摂動で修正し,モデルがバックドアトリガに依存するようにした。
  論文  参考訳（メタデータ） (2022-06-03T21:44:43Z)
• Hidden Killer: Invisible Textual Backdoor Attacks with Syntactic Trigger [48.59965356276387]
  本稿では,テキストバックドア攻撃の引き金として構文構造を用いることを提案する。 我々は、トリガーベースアタック法が同等のアタック性能を達成できることを示すため、広範囲な実験を行った。 また,本研究の結果から,テキストバックドア攻撃の重篤さと有害性も明らかとなった。
  論文  参考訳（メタデータ） (2021-05-26T08:54:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。