論文の概要: ControlJEPA: Principled Trajectory Regularization via Lyapunov Tube Loss
- arxiv url: http://arxiv.org/abs/2610.24951v1
- Date: Sun, 18 Oct 2026 02:06:28 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:09:09.251126
- Title: ControlJEPA: Principled Trajectory Regularization via Lyapunov Tube Loss
- Title(参考訳): ControlJEPA: リアプノフ管損失による軌道規則化の原理
- Abstract要約: ControlJEPAは離散時間リアプノフ収縮条件に基づく軌道正規化フレームワークである。
標準的な微調整および事前軌道正則化器よりも精度とデータ効率を一貫して改善する。
- 参考スコア(独自算出の注目度): 4.244232666673145
- License:
- Abstract: Next-token prediction leaves hidden-state trajectories largely unconstrained, while existing geometric regularizers primarily control the direction rather than the magnitude of trajectory deviations. We introduce \emph{ControlJEPA}, a trajectory regularization framework based on a discrete-time Lyapunov contraction condition from practical Input-to-State Stability theory. Its Lyapunov Tube Loss penalizes violations of this condition on a normalized, scale-invariant measure of transversal deviation. When the contraction condition holds at every step, the hidden-state trajectory remains within an explicit tube around the reference secant. In the partial-ISS regime, we bound mean transversal energy, temporal variance, and average tube width using the Lyapunov loss and contraction parameters, with horizon-independent variance bounds under uniformly bounded violations. ControlJEPA requires no architectural modifications. Across six benchmarks and six model families, it consistently improves accuracy and data efficiency over standard fine-tuning and prior trajectory regularizers. The resulting smoother transversal profile also persists empirically during inference, when the regularizer is inactive. The code is publicly available at: \url{https://github.com/t-khanusa/ControlJEPA}
- Abstract(参考訳): 既存の幾何正規化器は軌道偏差の大きさよりも方向を主に制御する。
本稿では,実際の入力-状態安定性理論から離散時間リアプノフ縮約条件に基づく軌道正則化フレームワークである \emph{ControlJEPA} を紹介する。
Lyapunov tube Lossは、この条件の違反を正規化してスケール不変な経時的偏差の尺度で罰する。
収縮条件が全てのステップで成立すると、隠れ状態の軌道は基準セカントの周りの明示的な管内に留まる。
Lyapunovの損失と収縮パラメータを用いて, 平均横方向エネルギー, 時間的分散, 平均管幅を均一な拘束条件下で水平非依存な分散境界で制限する。
ControlJEPAはアーキテクチャの変更を必要としない。
6つのベンチマークと6つのモデルファミリで、標準の微調整および以前の軌道正規化器よりも精度とデータ効率を一貫して改善する。
結果として生じるより滑らかな横方向プロファイルは、正規化剤が不活性であるときに、推論中に経験的に持続する。
コードは: \url{https://github.com/t-khanusa/ControlJEPA} で公開されている。
関連論文リスト
- ToF-Wheel Odometry: Navigating Degeneration of Localization With Limited Sensing Capabilities [12.3760529125697]
ToF-Wheel Odometry (TWO)は、ホイールキネマティクスと、Time-of-Flight (ToF)カメラの幾何学的制約を統合している。
TWOは静的および適応ガウスフィルタと比較して軌道精度とロバスト性を改善する。
論文 参考訳(メタデータ) (2026-10-10T05:16:10Z) - ConicFlow: constrained Inference-time optimal control for flow matching models [72.24720987598323]
ConicFlowフレームは、最適制御問題として、推論時のフローマッチングモデルからのサンプリングを制約した。
我々は,各ステップの軌跡のショートウィンドウのみを最適化し,遅延水平制御を適用して計算的トラクタビリティを向上する。
最近の大規模フローマッチングモデルによる低次元および高次元の両方の実験により、ConicFlowは高い報酬と強い制約満足度を達成することが示された。
論文 参考訳(メタデータ) (2026-10-09T20:32:34Z) - Normative Loss Landscape Navigation: A Trajectory-Based Approach to Mitigating Forgetting in Incremental Learning [3.924604299243548]
連続学習モデルは、非定常データ分布を逐次訓練する場合、破滅的な忘れ込みに悩まされる。
TMLN(Trajectory-Modulatory Landscape Navigation)は,連続的な学習を曲面損失景観に対する最適制御問題として定式化する規範的ナビゲーションポリシーである。
論文 参考訳(メタデータ) (2026-09-28T13:34:44Z) - Self-Normalized Inference for Constant-Stepsize Temporal-Difference Learning under Markovian Sampling [9.271408028342496]
定段階時間差学習(TD)は政策評価に魅力的であるが,1つのマルコフ軌道からの推論は連続的依存と段階的依存的定常目標を考慮しなければならない。
我々は、ランダムなTD行列と定常反復誤差によって誘導される乗法成分を共分散が保持する機能中心極限定理を確立する。
FrozenLakeとGarnetの実験では、静止目標被覆、RR目標補正、地平線インデクシング設計の有限サンプル挙動が示されている。
論文 参考訳(メタデータ) (2026-08-11T13:19:28Z) - Exceptional-point braiding with native controls [0.0]
ネイティブ制御を用いた例外点ブレイディングに制約付きショートカット・ツー・アディバチティの原理を導入する。
服を着た瞬間固有状態フレームでは、利用可能なコントロールはアクセス可能な遷移チャネルをローカルでキャンセルする。
このプロトコルは、理想的な断熱分岐交換によって選択されたエンドポイント状態転送をターゲットとしている。
論文 参考訳(メタデータ) (2026-07-27T22:12:56Z) - Online Distributional Prediction via Latent Cluster Geometry Under Drift and Corruption [14.35871574542677]
ドリフトおよび敵対的汚職下でのオンライン分布予測について検討した。
これらの構成上のギブス準ポストは、後部平均化によってオンライン予測器を生成する。
我々は,時変真の法則に対する累積ワッサースタイン1の後悔による性能評価を行った。
論文 参考訳(メタデータ) (2026-06-17T07:41:41Z) - Semantic Tube Prediction: Beating LLM Data Efficiency with JEPA [50.494504099850325]
我々は、トークン列が滑らかな意味多様体上の測地線を辿り、従って局所線型であることを示す測地論仮説を導入する。
本稿では,この制約により信号対雑音比が向上し,軌道中の衝突を防止することにより多様性が保たれることを示す。
幾何学的先行性は、ブルートフォーススケーリングを超越できることを実証する。
論文 参考訳(メタデータ) (2026-02-26T04:45:07Z) - Efficient local linearity regularization to overcome catastrophic
overfitting [59.463867084204566]
単段階逆行訓練におけるカタストロフィックオーバーフィッティング(CO)は、逆行性テスト精度(最大0%まで)の急激な低下をもたらす。
我々は,従来のAT評価においてCOを効果的かつ効率的に緩和するために,ELLEと呼ばれる正規化項を導入する。
論文 参考訳(メタデータ) (2024-01-21T22:55:26Z) - Implicit Bias of Gradient Descent for Logistic Regression at the Edge of
Stability [69.01076284478151]
機械学習の最適化において、勾配降下(GD)はしばしば安定性の端(EoS)で動く
本稿では,EoS系における線形分離可能なデータに対するロジスティック回帰のための定数段差GDの収束と暗黙バイアスについて検討する。
論文 参考訳(メタデータ) (2023-05-19T16:24:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。