Fugu-MT 論文翻訳(概要): SpecGuard: Inference-Time Backdoor Detection For Free

論文の概要: SpecGuard: Inference-Time Backdoor Detection For Free

arxiv url: http://arxiv.org/abs/2609.11799v1
Date: Thu, 10 Sep 2026 16:51:59 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-11 23:53:35.449801
Title: SpecGuard: Inference-Time Backdoor Detection For Free
Title（参考訳）: SpecGuard:推論時のバックドア検出を無料で
Abstract要約: SpecGuardは、追加のモデル計算コストゼロで投機的復号化を再利用する推論時バックドア検出器である。入力レベルのフィルタが見えないステルスケースなど、トリガーの動作を確実に検出する。
参考スコア（独自算出の注目度）: 11.670265492085328
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large language models are often fine-tuned, shared, or downloaded from third parties, so a deployed model may carry a hidden backdoor that behaves normally on benign inputs but switches to attacker-controlled behavior when a secret trigger appears. While backdoors can be audited before deployment, runtime monitoring remains important for models that are frequently updated. The challenge is that LLM serving is latency-sensitive: existing inference-time detectors either rely on assumptions about the trigger form, which can fail on stealthy attacks, or require extra model computation, such as input perturbations or an additional generation pass. We introduce SpecGuard, an inference-time backdoor detector that repurposes speculative decoding at zero added model-computation cost. Speculative decoding speeds up inference by using a small draft model to propose tokens and a target model to verify them. We observe that this verification process already exposes a useful signal: when a backdoor is triggered, the target model shifts toward the attacker's behavior, while a clean draft model does not predict this shift, causing the draft-token acceptance rate to change. We formalize when this signal appears and show that an attacker who suppresses it must also weaken the backdoor. Across diverse backdoor types and model families, SpecGuard reliably detects triggered behavior, including stealthy cases where input-level filters are blind, while avoiding the extra generation cost of existing runtime detectors. Speculative decoding therefore doubles as a free, always-on signal for detecting backdoored LLM behavior.
Abstract（参考訳）: 大規模な言語モデルは、しばしばサードパーティから微調整、共有、あるいはダウンロードされるため、デプロイされたモデルは、通常、良心的な入力で振る舞うが、シークレットトリガーが現れると攻撃者が制御する動作に切り替える、隠れたバックドアを運ぶことができる。バックドアはデプロイ前に監査できるが、頻繁に更新されるモデルでは、実行時の監視が依然として重要である。既存の推論時検出器はトリガーフォームに関する仮定に依存するか、ステルス攻撃で失敗する可能性があるか、入力摂動や追加生成パスなどの余分なモデル計算を必要とする。モデル計算コストゼロで投機的復号化を再利用する推論時バックドア検出器であるSpecGuardを導入する。投機的復号化は、小さなドラフトモデルを使用してトークンとターゲットモデルを提案し、それらを検証することで推論を高速化する。バックドアが起動されると、ターゲットモデルが攻撃者の行動にシフトするのに対し、クリーンなドラフトモデルはこのシフトを予測せず、ドラフトの受け入れ率を変化させる。この信号が現れると形式化し、それを抑圧する攻撃者がバックドアを弱める必要があることを示す。さまざまなバックドアタイプやモデルファミリにわたって、SpecGuardは、既存のランタイム検出器の余分な生成コストを回避しつつ、入力レベルのフィルタが見えないステルスケースを含むトリガの動作を確実に検出する。したがって、投機的復号化は、バックドアLDMの振る舞いを検出する自由かつ常時オンな信号として2倍になる。

関連論文リスト

QUACK! Making the (Rubber) Ducky Talk: A Systematic Study of Keystroke Dynamics for HID Injection Detection [60.105690843777666]
我々は、タイミング機能のみで動作する軽量モデルを使用して、堅牢でプライバシー保護の検知が達成可能であることを示す。分析の結果,攻撃者の高度化は単調に回避を改善できないことが明らかとなった。
論文参考訳（メタデータ） (2026-04-17T08:53:24Z)
Assimilation Matters: Model-level Backdoor Detection in Vision-Language Pretrained Models [71.44858461725893]
信頼できない第三者によって微調整されたモデルを考えると、モデルがバックドアで注入されたかどうかが重要で難しい問題である。既存の検出方法は通常、トレーニングデータセット、バックドアトリガー、ターゲットの事前知識に依存する。このような事前知識を伴わずに動作する新しいモデルレベルの検出フレームワークであるAssimilation Matters in DETection (AMDET)を紹介する。
論文参考訳（メタデータ） (2025-11-29T06:20:00Z)
Towards Effective, Stealthy, and Persistent Backdoor Attacks Targeting Graph Foundation Models [62.87838888016534]
Graph Foundation Models(GFM)は、さまざまなソースドメインで事前トレーニングされ、目に見えないターゲットに適応する。 GFMに対するバックドア攻撃は、3つの主要な課題のために簡単ではない。グラフ基礎モデルに対する新たなバックドア攻撃モデルであるGFM-BAを提案する。
論文参考訳（メタデータ） (2025-11-22T08:52:09Z)
Signature in Code Backdoor Detection, how far are we? [10.384592712399828]
我々は、コードモデルに対するバックドア攻撃の文脈において、スペクトル署名に基づく防御の適用性を再考する。コードバックドア検出におけるスペクトルシグナチャの広く使われている設定は、しばしば準最適である。我々は,防衛後のモデル再トレーニングを伴わずに,スペクトル署名の実際の性能をより正確に推定できる新しいプロキシ指標を発見した。
論文参考訳（メタデータ） (2025-10-15T18:18:08Z)
Backdoor Attack with Invisible Triggers Based on Model Architecture Modification [5.094386595197844]
従来のバックドア攻撃では、トレーニングデータに特定のトリガーで悪意のあるサンプルを注入する。より高度な攻撃は、モデルのアーキテクチャを直接変更する。本論文では、新たなバックドア攻撃方法を示す。モデルアーキテクチャ内にバックドアを埋め込んで,目立たない,ステルス的なトリガを生成する機能を備えている。
論文参考訳（メタデータ） (2024-12-22T07:39:43Z)
Twin Trigger Generative Networks for Backdoor Attacks against Object Detection [14.578800906364414]
オブジェクト検出器は、現実世界のアプリケーションで広く使われているが、バックドア攻撃に弱い。バックドア攻撃に関するほとんどの研究は画像分類に焦点を合わせており、物体検出について限定的な研究がなされている。本研究では,トレーニング中のモデルにバックドアを埋め込むための目に見えないトリガと,推論中の安定したアクティベーションのための目に見えるトリガを生成する新しいツイントリガ生成ネットワークを提案する。
論文参考訳（メタデータ） (2024-11-23T03:46:45Z)
Rethinking Backdoor Detection Evaluation for Language Models [43.17245824430881]
バックドア攻撃は、公開された言語モデルに依存する実践者にとって大きなセキュリティリスクをもたらす。対策として、バックドア検出手法は、リリースされたモデルにバックドアが含まれているかどうかを検出することを目的としている。既存のバックドア検出手法は標準ベンチマークでバックドアモデルを検出するのに高い精度を持っているが、野生のバックドアを堅牢に識別できるかどうかは不明である。
論文参考訳（メタデータ） (2024-08-31T09:19:39Z)
Model Pairing Using Embedding Translation for Backdoor Attack Detection on Open-Set Classification Tasks [63.269788236474234]
バックドア検出のためのオープンセット分類タスクにモデルペアを用いることを提案する。このスコアは、異なるアーキテクチャのモデルがあるにもかかわらず、バックドアの存在を示す指標であることを示している。この技術は、オープンセット分類タスク用に設計されたモデル上のバックドアの検出を可能にするが、文献ではほとんど研究されていない。
論文参考訳（メタデータ） (2024-02-28T21:29:16Z)
Mask and Restore: Blind Backdoor Defense at Test Time with Masked Autoencoder [50.1394620328318]
既存のバックドア防御手法では、いくつかのバリデーションデータとモデルパラメータにアクセスする必要があることが多い。 Masked AutoEncoder (BDMAE) を用いたブラインドバックドアディフェンスの提案 BDMAEは、画像の構造的類似性と、テスト画像とMAE復元の間のラベルの整合性を用いて、可能な局所的なトリガを検出する。
論文参考訳（メタデータ） (2023-03-27T19:23:33Z)
Untargeted Backdoor Attack against Object Detection [69.63097724439886]
我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
論文参考訳（メタデータ） (2022-11-02T17:05:45Z)
A temporal chrominance trigger for clean-label backdoor attack against anti-spoof rebroadcast detection [41.735725886912185]
本稿では,Deep Learning(DL)ベースのモデルに対する,ステルスなクリーンラベルビデオバックドア攻撃を提案する。注入されたバックドアは、正常な状態でのスプーフ検出には影響しないが、トリガー信号の存在下での誤分類を引き起こす。提案したバックドア攻撃の有効性と汎用性を異なるデータセットで実験的に検証した。
論文参考訳（メタデータ） (2022-06-02T15:30:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。