論文の概要: Conditional Optimal Bridge for Riemannian Activation Steering
- arxiv url: http://arxiv.org/abs/2607.10517v1
- Date: Sun, 12 Jul 2026 00:36:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 15:40:48.44693
- Title: Conditional Optimal Bridge for Riemannian Activation Steering
- Title(参考訳): リーマンアクティブステアリングのための条件最適ブリッジ
- Abstract要約: アクティベーションステアリングは、大規模な言語推論時間を制御するための微調整の軽量な代替手段を提供する。
我々は,残流超球面上のシュルディンガーブリッジとして活性化ステアリングを行うtextscCobrasを紹介した。
既存の方法でよく見られるOOD劣化を回避しながら、活性化ステアリングベースラインを一貫して上回る。
- 参考スコア(独自算出の注目度): 15.152913607564876
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Activation steering offers a lightweight alternative to fine-tuning for controlling large language models at inference time. While many existing methods implicitly optimize a log-density-ratio objective between desired and undesired activation distributions, they do so heuristically rather than deriving it from a principled optimization problem. Moreover, these methods produce query-independent steering directions that can degrade performance on both in-distribution and out-of-distribution (OOD) inputs. We introduce \textsc{Cobras} (Conditional Optimal Bridge for Riemannian Activation Steering), which addresses both limitations by casting activation steering as a Schrödinger Bridge on the residual-stream hypersphere. This formulation yields, to our knowledge, the first principled derivation of the log-density-ratio steering objective from a well-posed optimization problem. Solving the bridge via entropic optimal transport and extracting the probability flow ODE recovers the widely used density-ratio gradient as a special case when the Sinkhorn potentials are uniform. Crucially, the Schrödinger potentials are evaluated at the current activation, making the resulting steering direction inherently query-adaptive. Empirically, across four models and three alignment axes (helpfulness, truthfulness, and detoxification), \textsc{Cobras} consistently outperforms prior activation steering baselines while avoiding the OOD degradation commonly observed in existing methods. The code can be found at https://github.com/arshandalili/cobras.
- Abstract(参考訳): アクティベーションステアリングは、推論時に大きな言語モデルを制御するための微調整の軽量な代替手段を提供する。
多くの既存手法では、所望と望まないアクティベーション分布間の対数密度比の目的を暗黙的に最適化するが、原理化された最適化問題から導出するのではなく、ヒューリスティックに最適化する。
さらに,これらの手法は問合せ非依存の操舵方向を生成し,分布内および分布外の両方で性能を低下させることができる。
本稿では, 活性化ステアリングを残留流超球面上のシュレーディンガーブリッジとしてキャストすることで, 両方の制限に対処する。
この定式化は、我々の知る限り、ログ密度比のステアリング目標を最適化問題から導出した最初の原則である。
エントロピー最適輸送による橋梁の解法と確率流ODEの抽出は、シンクホーンポテンシャルが均一である特別な場合として広く用いられる密度比勾配を回復する。
重要なことに、シュレーディンガーポテンシャルは現在の活性化で評価され、結果として得られる操舵方向は本質的にクエリ適応的である。
経験的には、4つのモデルと3つのアライメント軸(ヘルパフルネス、真理性、およびデトックス化)で、既存の方法でよく見られるOODの劣化を回避しながら、常に事前のアクティベーションステアリングベースラインを上回っている。
コードはhttps://github.com/arshandalili/cobrasで見ることができる。
関連論文リスト
- Robust Activation Map Rectification for Weakly Supervised Volumetric Segmentation: Temporal Coherence as a Free Lunch [31.156115062163412]
弱教師付きセグメンテーションは、最初にターゲット領域をローカライズするためにクラスアクティベーションマップ(CAM)に大きく依存している。
既存の治療法は、通常、追加のトレーニングステージやプロトタイプ学習を導入し、計算コストを増大させ、堅牢性を低下させる。
本研究では, 容積データの時間的・構造的コヒーレンスをフリーランチとして利用することにより, 信頼できないCAMを修正できる, トレーニング不要なプロトタイプフリーフレームワークを提案する。
論文 参考訳(メタデータ) (2026-07-22T08:07:38Z) - Twisted Schrödinger Bridge Matching [34.126987447337534]
拡散に基づくシュルディンガー橋模型は、2つの所定の境界分布間の最適輸送ダイナミクスを近似するために提案されている。
連続時間と離散時間の両方を扱うために設計された拡散法であるTwisted Schrdinger Bridge Matchingを紹介する。
論文 参考訳(メタデータ) (2026-07-18T22:30:43Z) - Real-Time Auto-Optimization in Unknown Environments via Structure-Exploiting Dual Control for Exploration and Exploitation [5.005890380363851]
本稿では,探索と利用のための高速な数値二重制御法を開発した。
未知の環境における自動最適化問題に対処する。
約1桁のスピードアップを実現し、典型的な車両組み込みCPU上では、マイクロ秒レベルの最大時間は83秒に過ぎない。
論文 参考訳(メタデータ) (2026-05-21T12:55:48Z) - Entropy Across the Bridge: Conditional-Marginal Discretization for Flow and Schrödinger Samplers [68.9946633641494]
フローマッチングとシュルディンガーブリッジは確率を定義するが、その推論格子は通常一点拡散から受け継がれる。
終端条件付き橋梁形状を境界流の進化から分離し, 橋梁を識別する条件付きエントロピーレートを導出する。
EDM/CIFAR-10では、エントロピックな時間分散は5段階のFID(186.3 pm 4.0対200.5 pm 2.9対cosineの238.0 pm 5.3)が最適である。
論文 参考訳(メタデータ) (2026-05-15T16:11:10Z) - Gradient-Free Noise Optimization for Reward Alignment in Generative Models [52.42087778653147]
ZeNOは、経路積分制御問題としてノイズ最適化を定式化する、勾配のないフレームワークである。
効果的な推論時間スケーリングを可能にし、多様なジェネレータと報酬関数間で強力なパフォーマンスを示す。
論文 参考訳(メタデータ) (2026-05-12T00:05:36Z) - Direct Estimation of Schrödinger Bridge Time-Series Drifts: Finite-Sample, Asymptotic, and Adaptive Guarantees [0.0]
本研究では, シュルディンガー橋ドリフトの非パラメトリック推定法について検討した。
提案手法はドリフトレベルで直接動作し,最適化,近似,離散化誤差から統計的誤差を分離する。
論文 参考訳(メタデータ) (2026-05-06T20:44:44Z) - ODESteer: A Unified ODE-Based Steering Framework for LLM Alignment [49.68063561145927]
活性化ステアリングのための統一常微分方程式(ODE)に基づく理論的枠組みを提案する。
本稿では,バリア関数によって誘導されるODEベースのステアリングの一種であるODESteerを紹介する。
最先端のアクティベーションステアリング手法と比較すると、ODESteerは一貫した経験的改善を実現している。
論文 参考訳(メタデータ) (2026-02-19T17:13:44Z) - Latent Refinement via Flow Matching for Training-free Linear Inverse Problem Solving [18.226350407462643]
LFlowは,事前学習した潜水前処理を用いて線形逆問題を解決するための学習自由フレームワークである。
提案手法は,ほとんどのタスクの再構成品質において,最先端の潜伏拡散解法よりも優れる。
論文 参考訳(メタデータ) (2025-11-08T21:20:59Z) - Latent Schrodinger Bridge: Prompting Latent Diffusion for Fast Unpaired Image-to-Image Translation [58.19676004192321]
ノイズからの画像生成とデータからの逆変換の両方を可能にする拡散モデル (DM) は、強力な未ペア画像対イメージ(I2I)翻訳アルゴリズムにインスピレーションを与えている。
我々は、最小輸送コストの分布間の微分方程式(SDE)であるSchrodinger Bridges (SBs) を用いてこの問題に取り組む。
この観測に触発されて,SB ODE を予め訓練した安定拡散により近似する潜在シュロディンガー橋 (LSB) を提案する。
提案アルゴリズムは,従来のDMのコストをわずかに抑えながら,教師なし環境での競合的I2I翻訳を実現していることを示す。
論文 参考訳(メタデータ) (2024-11-22T11:24:14Z) - Plug-in estimation of Schrödinger bridges [15.685006881635209]
本稿では,2つの確率分布間のSchr"odingerブリッジを推定する手法を提案する。
EmphSinkhorn Bridge(英語版)と呼ばれる我々の提案は、目標測度の内在次元に依存する収束率で、確実にSchr"odinger Bridgeを推定することを示します。
論文 参考訳(メタデータ) (2024-08-21T15:07:25Z) - Generalized Schrödinger Bridge Matching [54.171931505066]
一般化Schr"odinger Bridge (GSB) 問題設定は、機械学習の内外を問わず、多くの科学領域で一般的である。
我々は最近の進歩に触発された新しいマッチングアルゴリズムである一般化シュリンガーブリッジマッチング(GSBM)を提案する。
このような一般化は条件最適制御の解法として、変分近似を用いることができることを示す。
論文 参考訳(メタデータ) (2023-10-03T17:42:11Z) - Manipulating the Dynamics of a Fermi Resonance with Light. A Direct
Optimal Control Theory Approach [0.0]
量子力学問題に対する直接最適制御理論は、それ自体が従来の間接最適制御の代替として興味深いものであることを示している。
本稿では,一般的なフェルミ共振モデルの例を用いて,この手法の適用範囲を,正確なウェーブパケット伝搬の場合にまで拡張する。
論文 参考訳(メタデータ) (2021-08-27T14:30:03Z) - Direct Optimal Control Approach to Laser-Driven Quantum Particle
Dynamics [77.34726150561087]
間接制御理論に対する頑健で柔軟な代替手段として, 直接最適制御を提案する。
この方法は、バイスタブルポテンシャルにおけるレーザー駆動のウェーブパレットダイナミクスの場合に説明される。
論文 参考訳(メタデータ) (2020-10-08T07:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。