論文の概要: TMT: Runtime Backdoor Detection for Vision-Language-Action Policies on Unseen Tasks

• arxiv url: http://arxiv.org/abs/2610.09462v1
• Date: Wed, 07 Oct 2026 05:20:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.732211
• Title: TMT: Runtime Backdoor Detection for Vision-Language-Action Policies on Unseen Tasks
• Title（参考訳）: TMT:未確認タスクに対するビジョンランゲージ・アクションポリシーの実行時バックドア検出
• Abstract要約: バックドアの視覚言語アクション(VLA)ポリシーは、トリガーの出現時に悪意のあるアクションを生成しながら、良質なタスクパフォーマンスを維持することができる。 本稿では,Token Manifold と潜在遷移モデルに基づくバックドアランタイム検出器 TMT を紹介する。 10基のベースラインと比較して、TMTは3基のVLAバックドア攻撃で見えないタスクに対して最先端のバックドア検出性能を達成する。
• 参考スコア（独自算出の注目度）: 17.361285841662262
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Backdoored vision-language-action (VLA) policies can preserve benign task performance while producing malicious actions when a trigger appears. Detecting such activation is difficult because malicious behavior can comprise individually plausible actions, while unfamiliar tasks introduce legitimate changes in observations and behavior. We introduce TMT, a runtime backdoor detector based on Token Manifold and latent Transition modeling. Trained on benign rollouts, its two branches assess input-token structure and prediction errors in adjacent-layer latent dynamics. A suspicious rollout identified by the token manifold branch, once confirmed through latent deviations, guides transition selection for subsequent monitoring. We further explore policy purification through self-distillation: a frozen copy of the backdoored policy provides benign-input actions to supervise a student on paired benign and triggered observations, without requiring a separate clean reference policy. For evaluation, we adapt traditional backdoor detectors and repurpose anomaly and failure detection methods as VLA backdoor detectors. In a post-hoc comparison with ten baselines, TMT achieves state-of-the-art backdoor detection performance on unseen tasks across three VLA backdoor attacks. Our project page is available at https://zzr42.github.io/tmt/.
• Abstract（参考訳）: バックドアの視覚言語アクション(VLA)ポリシーは、トリガーの出現時に悪意のあるアクションを生成しながら、良質なタスクパフォーマンスを維持することができる。 このようなアクティベーションの検出は、悪意のある行動が個別に妥当な行動を構成する可能性があるため困難であり、不慣れなタスクは観察と行動の正当な変化をもたらす。 本稿では,Token Manifoldと潜在遷移モデルに基づくランタイムバックドア検出器TMTを紹介する。 良性ロールアウトをトレーニングした2つのブランチは、隣接層潜在力学における入出力構造と予測誤差を評価する。 トークン多様体分岐によって同定された疑わしいロールアウトは、一度遅延偏差によって確認され、その後の監視のために遷移選択を導く。 さらに, 自己蒸留による政策浄化について検討する: バックドアされた政策の凍結コピーは, 学生が個別のクリーンな基準方針を必要とせず, 生徒がペアの良心と引き起こした観察を監督するための良心的な行動を提供する。 評価のために,従来のバックドア検出器に適応し,VLAバックドア検出器として異常および故障検出を再利用する。 10基のベースラインと比較して、TMTは3基のVLAバックドア攻撃で見えないタスクに対して最先端のバックドア検出性能を達成する。 私たちのプロジェクトページはhttps://zzr42.github.io/tmt/で公開されています。

関連論文リスト

• Taming CoT Obfuscation in VLMs: From Mechanistic Evidence to Activation Enforcement [74.92755267784983]
  強化学習は、視覚言語モデルにおける推論を改善するが、チェーン・オブ・オファシケーションを誘発することができる。 本稿では, 行動フィードバックとテンプレート関連アクティベーションの標的抑制を組み合わせ, メカニスティック・エンハンスメント(TAME)を用いた標的的アンチ・オブファシケーションを提案する。 VIRL-39k、SPA-VL、および2つのモデルファミリの中で、TAMEはグループ相対政策最適化よりも最大30.9および16.7%のCoT監視性を改善している。
  論文  参考訳（メタデータ） (2026-09-21T08:08:56Z)
• SpecGuard: Inference-Time Backdoor Detection For Free [11.670265492085328]
  SpecGuardは、追加のモデル計算コストゼロで投機的復号化を再利用する推論時バックドア検出器である。 入力レベルのフィルタが見えないステルスケースなど、トリガーの動作を確実に検出する。
  論文  参考訳（メタデータ） (2026-09-10T16:51:59Z)
• When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
  ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。 我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。 クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
  論文  参考訳（メタデータ） (2026-08-02T08:38:44Z)
• TrustVLA: Mechanism-Guided Inference-Time Defense Against Vision-Language-Action Backdoors [54.12833308568015]
  VLA(Vision-Language-Action)モデルは、エンドユーザが監査できないパイプラインを通じてデプロイされる。 小さな視覚トリガーは、障害が観測可能である前に、長い水平ロボットポリシーをリダイレクトする。 個別に提案した2つのVLA攻撃を通してこのギャップについて検討した。
  論文  参考訳（メタデータ） (2026-07-14T09:43:52Z)
• Shared Latent Structures Enable Unified Backdoor Detection and Mitigation in LLMs [20.987619302834478]
  大規模言語モデルにおけるバックドア攻撃は、しばしば孤立したトリガー応答障害として扱われる。 検出し、因果的に制御し、抑制できる共有潜伏機構を同定する。 以上の結果から,多くのバックドアは伝達可能な潜伏機構に依存しており,一貫した検出と緩和が可能であることが示唆された。
  論文  参考訳（メタデータ） (2026-06-06T03:41:44Z)
• BehaviorGuard: Online Backdoor Defense for Deep Reinforcement Learning [32.53874142863277]
  バックドア攻撃は深層強化学習(DRL)に深刻な脅威をもたらす 現在の防衛は、バックドアを除去するためのリバースエンジントリガーやファインタニングのモデルへの報酬異常に依存している。 本稿では,DRLのための行動に基づくバックドア検出・緩和フレームワークであるBehavimentGuardを提案する。
  論文  参考訳（メタデータ） (2026-05-07T10:21:14Z)
• Backdoor Directions in Vision Transformers [56.382912038371046]
  本稿では,視覚変換器(ViT)におけるバックドアアタックの表現方法について検討する。 我々は、トリガーの内部表現に対応するモデルのアクティベーションにおいて、特定のトリガー方向'を識別する。 この方向を診断ツールとして使用して、バックドア機能が層間でどのように処理されるかを追跡する。
  論文  参考訳（メタデータ） (2026-03-11T14:13:48Z)
• Persistent Backdoor Attacks under Continual Fine-Tuning of LLMs [33.568493008851746]
  組込みバックドアが多段階後細調整によって持続するかどうかについて検討した。 P-Trojanは、繰り返し更新するバックドアの永続性を明示的に最適化するトリガーベースの攻撃アルゴリズムである。
  論文  参考訳（メタデータ） (2025-12-12T11:40:51Z)
• Trigger without Trace: Towards Stealthy Backdoor Attack on Text-to-Image Diffusion Models [70.03122709795122]
  テキストと画像の拡散モデルをターゲットにしたバックドア攻撃が急速に進んでいる。 現在のバックドアサンプルは良性サンプルと比較して2つの重要な異常を示すことが多い。 我々はこれらの成分を明示的に緩和することでTwT(Trigger without Trace)を提案する。
  論文  参考訳（メタデータ） (2025-03-22T10:41:46Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。