論文の概要: TraceRouter++: Causal Semantic Routing Realignment via Optimal Transport

• arxiv url: http://arxiv.org/abs/2611.04878v2
• Date: Wed, 04 Nov 2026 04:53:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:25:57.77666
• Title: TraceRouter++: Causal Semantic Routing Realignment via Optimal Transport
• Title（参考訳）: TraceRouter++: 最適なトランスポートによるCausal Semantic Routing Realignment
• Abstract要約: Trace++は、大規模な基盤モデルのためのルーティングレベルの安全介入フレームワークである。 有害な入力の下で活性化される安全関連因果経路を辿り、安全でない活性化状態を認識する。 本手法は,計算経路をそのまま残しながら,悪意あるセマンティックフローを安全にリダイレクトする。
• 参考スコア（独自算出の注目度）: 53.66004680290163
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite their remarkable capabilities, large foundation models (LFMs) remain susceptible to adversarial manipulation. Current safety intervention methods primarily rely on the \textit{locality hypothesis}, rigidly suppressing isolated neurons or features. However, harmful semantics manifest as distributed, cross-layer circuits, rendering localized ablations both brittle against complex jailbreaks and detrimental to general utility. To bridge this gap, we propose TraceRouter++, a routing-level safety intervention framework that explicitly traces safety-relevant causal routing pathways activated under harmful inputs and realigns their unsafe activation states. Our framework operates in a \textit{Discover-Trace-Realign} paradigm: it first pinpoints a sensitive onset layer via attention divergence and disentangles dense activations into interpretable routing features using sparse autoencoders (SAEs). Subsequently, it maps these features to downstream causal circuits via feature influence scores (FIS). Crucially, departing from rigid suppression paradigms, TraceRouter++ introduces a constrained optimal transport (OT)-based soft routing realignment. By formulating safety intervention as a tractable coordinate-wise marginal optimal transport approximation, our method redirects unsafe activation marginals toward safe-reference marginals within causally identified routing subspaces while preserving non-selected coordinates at the intervention point. This mechanism safely redirects malicious semantic flows while leaving orthogonal computational routes intact. Extensive experiments across representative large language models (LLMs), multimodal large language models (MLLMs), and diffusion models (DMs) show that TraceRouter++ outperforms evaluated baselines, improving adversarial robustness while maintaining a favorable safety-utility trade-off. WARNING: This paper contains unsafe model responses.
• Abstract（参考訳）: その顕著な能力にもかかわらず、大きな基礎モデル(LFM)は敵の操作に影響を受けやすいままである。 現在の安全介入法は主に、孤立したニューロンや特徴を厳格に抑制する \textit{locality hypothesis} に依存している。 しかし、有害なセマンティクスは分散層間回路として現れ、複雑なジェイルブレイクに対する局部的なアブレーションと汎用性への有害な有害な影響の両方を生じる。 このギャップを埋めるために、TraceRouter++を提案する。これはルーティングレベルの安全介入フレームワークで、有害な入力の下でアクティベートされた安全関連因果経路を明示的にトレースし、その安全でないアクティベーション状態を認識する。 我々のフレームワークは、まず注意のばらつきを通じてセンシティブなオンセット層をピンポイントし、スパースオートエンコーダ(SAE)を用いて高密度なアクティベーションを解釈可能なルーティング機能に切り離すという、‘textit{Discover-Trace-Realign’パラダイムで機能する。 その後、特徴影響スコア(FIS)を用いて、これらの特徴を下流因果回路にマッピングする。 重要なのは、厳格な抑制パラダイムから離れ、TraceRouter++は制約付き最適トランスポート(OT)ベースのソフトルーティングアライメントを導入している。 安全介入をトラクタブルな座標ワイド最適輸送近似として定式化することにより、干渉点の非選択座標を保ちながら、因果的に特定されたルーティングサブ空間内の安全な参照限界に、安全でないアクティベーション限界をリダイレクトする。 このメカニズムは、直交する計算経路をそのまま残しながら、悪意のあるセマンティックフローを安全にリダイレクトする。 代表的大言語モデル(LLM)、マルチモーダル大言語モデル(MLLM)、拡散モデル(DM)の広範な実験により、TraceRouter++はベースラインを評価し、良好な安全ユーティリティトレードオフを維持しながら敵の堅牢性を向上させる。 WARNING: 安全でないモデル応答を含む。

関連論文リスト

• Reading, Not Manipulating: Leveraging Router Logits for Multimodal Safety in MoE Vision-Language Models [51.95643874494937]
  視覚言語モデル(VLM)は、視覚的入力とテキスト入力の相互作用から有害な意図が生じるような構成上の安全リスクに直面している。 本稿では,プロンプトプリフィル中のルーティング信号を読み出し,生成前の安全でない要求を識別する軽量なルータログ安全検出器を提案する。
  論文  参考訳（メタデータ） (2026-10-06T05:09:02Z)
• Mitigating LLM Over-Refusal via Dynamic Semantic Routing Calibratione [27.738902895062836]
  本稿では、トランスアテンション内における内部ルーティング競合のレンズによるオーバーリフレクションの力学解析について述べる。 過敏性安全ヘッドのスパースサブセットがHard-Safeプロンプトを誤発し,異常な注意の絡み合いを呈することを発見した。 これに対応するために,SRC(Semantic Routing)を提案する。
  論文  参考訳（メタデータ） (2026-09-06T09:37:56Z)
• When Efficiency Becomes Fragility: Exploiting Dynamic Routing Vulnerabilities in Adaptive UAV Tracking [32.2355419863971]
  UAVプラットフォーム上のリソース制約は、性能を追求し、効率と精度のバランスをとることから、空中追跡のパラダイムシフトを駆り立てている。 入力依存動的ルーティングアーキテクチャを活用するAdaptive Transformer Trackersがこの課題の代表的な解決策として登場した。 この計算オンデマンドの柔軟性の背後には,計算経路決定のリプシッツ特異性という,重要な構造的欠陥が隠されていることが明らかになった。
  論文  参考訳（メタデータ） (2026-08-04T16:29:35Z)
• SafeSeek: Universal Attribution of Safety Circuits in Language Models [49.59795225914787]
  我々は,統合された安全解釈可能性フレームワークである ourmethod を提案する。 提案手法は,大規模言語モデルにおける機能的完全安全回路を同定する。 LLMの安全性には2つの重要なシナリオがある。
  論文  参考訳（メタデータ） (2026-03-24T14:32:53Z)
• Blockchain-Enabled Routing for Zero-Trust Low-Altitude Intelligent Networks [77.17664010626726]
  低高度インテリジェントネットワーク(LAIN)における複数のUAVクラスタによるルーティングに焦点を当てる。 潜在的な脅威によるダメージを最小限に抑えるため,ソフトウェア定義の周辺技術とブロックチェーン技術を用いたゼロトラストアーキテクチャを提案する。 提案手法は,平均E2E遅延を59%削減し,TSRを29%改善することを示した。
  論文  参考訳（メタデータ） (2026-02-27T04:30:35Z)
• TraceRouter: Robust Safety for Large Foundation Models via Path-Level Intervention [44.64827167753535]
  有害なセマンティクスは分散層間回路として機能し、局所的な介入が不安定で実用性に有害である。 我々は,不特定意味論の因果伝播回路をトレースし,切断するパスレベルフレームワークである textbfTrace を提案する。 トレースは最先端のベースラインを著しく上回り、敵の堅牢性と汎用性とのトレードオフが優れている。
  論文  参考訳（メタデータ） (2026-01-29T15:58:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。