論文の概要: ReShift: Aha-Moment-Driven Reasoning-Level Backdoor Attacks on Vision-Language Models

• arxiv url: http://arxiv.org/abs/2607.00361v1
• Date: Wed, 01 Jul 2026 02:59:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-02 19:56:07.695933
• Title: ReShift: Aha-Moment-Driven Reasoning-Level Backdoor Attacks on Vision-Language Models
• Title（参考訳）: ReShift: Aha-Moment-Driven Reasoning-Level Backdoor Attacks on Vision-Language Models
• Abstract要約: ビジョン-言語モデル(VLM)は、安全クリティカルなアプリケーションにますますデプロイされているが、バックドア攻撃には弱いままである。 本稿では,新しいアハモーメント駆動推論レベルのバックドアフレームワークであるReShiftを提案する。 ReShiftはクリーンタスクのパフォーマンスとリアルな推論トレースを維持しながら高い攻撃成功率を達成することを示す。
• 参考スコア（独自算出の注目度）: 7.279785971860307
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision--Language Models (VLMs) are increasingly deployed in safety-critical applications, yet remain vulnerable to backdoor attacks. Existing methods primarily manipulate final outputs, often producing reasoning traces that are inconsistent or easily detectable. In this paper, we propose ReShift, the novel aha-moment-driven reasoning-level backdoor framework that explicitly redirects the internal chain-of-thought (CoT) trajectory while preserving surface-level coherence. ReShift introduces a Poisoned Reasoning-Aware Data Construction (PRDC) pipeline and a Supervised--Reinforcement Joint Optimization (SRJO) strategy to induce stable trigger-conditioned reasoning shifts. We further formalize Entropy Rebound as a principled signal for characterizing reasoning redirection and provide theoretical guaranties linking entropy gaps to trajectory-level divergence. Extensive experiments demonstrate that ReShift achieves high attack success rates while maintaining clean-task performance and realistic reasoning traces, substantially improving stealthiness against existing defenses.
• Abstract（参考訳）: ビジョン-言語モデル(VLM)は、安全クリティカルなアプリケーションにますますデプロイされているが、バックドア攻撃には弱いままである。 既存の手法は主に最終的な出力を操作し、しばしば不整合または容易に検出可能な推論トレースを生成する。 本稿では,表面のコヒーレンスを維持しつつ,内部チェーン・オブ・シント(CoT)軌道を明示的にリダイレクトする,新しいアハモーメント駆動型推論レベルバックドアフレームワークであるReShiftを提案する。 ReShiftでは、Poisoned Reasoning-Aware Data Construction (PRDC)パイプラインと、安定したトリガ条件推論シフトを誘発するSupervised-Reinforcement Joint Optimization (SRJO)戦略を導入している。 我々はさらに、エントロピーリバウンドを推論的リダイレクトを特徴付ける原理的な信号として定式化し、エントロピーギャップと軌道レベルのばらつきをリンクする理論的なグアランティを提供する。 大規模な実験では、ReShiftはクリーンタスクのパフォーマンスと現実的な推論トレースを維持しながら高い攻撃成功率を達成し、既存の防御に対するステルスネスを大幅に改善している。

関連論文リスト

• IADD-TR: Intervention-Aware Dynamics Decoupling with Targeted Regularization for Model-Based Reinforcement Learning [57.16513298507272]
  IADD-TRは、IADD(Intervention-Aware Dynamics Decoupling)とTR(Targeted Regularization)を組み合わせた統合フレームワークである。 IADDは、ゼロアクションアンカーを用いて、アクション干渉段階とアクションフリー自然進化段階への遷移を分解し、堅牢な一般化のためにこの2段階の分解の非特異性を解決する。 政策学習においては,リプレイ状態の政策段階関数の効率的な影響関数からTRを導出する。
  論文  参考訳（メタデータ） (2026-08-11T08:20:02Z)
• SAGE: Shaping Anchors for Guided Exploration in RLVR of LLMs [55.46289074417954]
  検証可能な報酬(RLVR)による強化学習は、推論タスクのpass@1を確実に改善するが、pass@kでは同等の利得を得られないことが多い。 中心的な構造的制約は、トレーニングを安定させるが、本質的には基準分布にポリシーを固定する逆-KL正規化から生じる。 我々は,逆KLアンカー分布自体を再構成することで,制御可能な経験的サポート拡張を可能にする,原則化されたフレームワークであるSAGEを提案する。
  論文  参考訳（メタデータ） (2026-05-15T07:42:21Z)
• Defusing the Trigger: Plug-and-Play Defense for Backdoored LLMs via Tail-Risk Intrinsic Geometric Smoothing [16.949753329459796]
  Tail-risk Intrinsic Geometric Smoothing (TIGS)は、大規模な言語モデルにおけるバックドア攻撃に対するプラグアンドプレイの推論時防御である。 TIGSはコンテンツ認識型テールリスクスクリーニングを使用して、不審な注意頭と行を識別する。 その後、本質的な幾何学的滑らか化を施す一方で、より強いフルロー収縮はトリガー支配的なルーティングを妨害する。
  論文  参考訳（メタデータ） (2026-04-27T08:18:30Z)
• Critical-CoT: A Robust Defense Framework against Reasoning-Level Backdoor Attacks in Large Language Models [4.4331439696271415]
  大規模言語モデル(LLM)は、バックドア攻撃に弱いことが示されている。 近年の進歩は、現代的なLCMの長期的推論傾向を利用して、推論レベルのバックドアを運用している。 LLM上で2段階の微調整を行う新しい防衛機構であるCritical-CoTを提案する。
  論文  参考訳（メタデータ） (2026-04-12T15:19:35Z)
• BadThink: Triggered Overthinking Attacks on Chain-of-Thought Reasoning in Large Language Models [24.513640096951566]
  我々はBadThinkを提案する。BadThinkは、大規模言語モデルにおいて、意図的に「過度な」振る舞いを誘発するように設計された最初のバックドア攻撃である。 慎重に作成されたトリガープロンプトによってアクティベートされると、BadThinkはモデルを操作して膨らませた推論トレースを生成する。 我々はこの攻撃を、高度な毒をベースとした微調整戦略によって実施する。
  論文  参考訳（メタデータ） (2025-11-13T13:44:51Z)
• Large Reasoning Models Learn Better Alignment from Flawed Thinking [56.08883934423522]
  大規模推論モデル(LRM)は、最終的な答えを生成する前に構造化チェーン・オブ・シント(CoT)を生成することで「考える」。 本稿では,Regressed Learning (RL) 手法であるRECAPを提案する。
  論文  参考訳（メタデータ） (2025-10-01T14:15:43Z)
• REFINE: Inversion-Free Backdoor Defense via Model Reprogramming [60.554146386198376]
  ディープニューラルネットワーク(DNN)に対するバックドア攻撃は、重大なセキュリティ脅威として浮上している。 モデル再プログラミングに基づく逆フリーバックドア防御手法であるREFINEを提案する。
  論文  参考訳（メタデータ） (2025-02-22T07:29:12Z)
• CROW: Eliminating Backdoors from Large Language Models via Internal Consistency Regularization [7.282200564983221]
  大規模言語モデル(LLM)は、隠れたトリガーを介して出力を操作するバックドア攻撃に対して脆弱である。 本稿では,バックドアモデルがトリガ時に不安定な層単位の隠蔽表現を示すという観測を生かした内部一貫性規則化(CROW)を提案する。 CROWは、微調整やバックドアの中立化など、クリーンな参照モデルや知識のトリガを必要とせず、小さなクリーンなデータセットのみを使用して、レイヤ間の一貫性を強制する。
  論文  参考訳（メタデータ） (2024-11-18T07:52:12Z)
• Revisiting Backdoor Attacks against Large Vision-Language Models from Domain Shift [104.76588209308666]
  本稿では,LVLMの学習訓練におけるバックドア攻撃について検討する。 我々は,攻撃の堅牢性を評価するために,新たな評価次元,バックドア領域の一般化を導入する。 本稿では,ドメイン非依存的トリガを臨界領域に注入するマルチモーダルアトリビューションバックドアアタック(MABA)を提案する。
  論文  参考訳（メタデータ） (2024-06-27T02:31:03Z)
• Advancing Generalized Transfer Attack with Initialization Derived Bilevel Optimization and Dynamic Sequence Truncation [49.480978190805125]
  転送攻撃はブラックボックスアプリケーションに大きな関心を惹きつける。 既存の作業は、本質的に単一のレベルの目的 w.r.t. シュロゲートモデルを直接最適化する。 本稿では,上位レベル(UL)と下位レベル(LL)のサロゲート攻撃とのネスト関係を明示的に再構築する2レベル最適化手法を提案する。
  論文  参考訳（メタデータ） (2024-06-04T07:45:27Z)
• Policy Smoothing for Provably Robust Reinforcement Learning [109.90239627115336]
  入力のノルム有界対向摂動に対する強化学習の証明可能な堅牢性について検討する。 我々は、スムーズなポリシーによって得られる全報酬が、入力の摂動のノルムバウンドな逆数の下で一定の閾値以下に収まらないことを保証した証明書を生成する。
  論文  参考訳（メタデータ） (2021-06-21T21:42:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。