論文の概要: Hitting Time Isomorphism for Multi-Stage Planning with Foundation Policies
- arxiv url: http://arxiv.org/abs/2605.06470v1
- Date: Thu, 07 May 2026 15:56:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.965271
- Title: Hitting Time Isomorphism for Multi-Stage Planning with Foundation Policies
- Title(参考訳): 基礎政策による多段階計画のための隠れ時間同型
- Authors: Magnus Victor Boock, Abdullah Akgül, Mustafa Mert Çelikok, Melih Kandemir,
- Abstract要約: オフライン強化学習のための演算子理論表現学習フレームワークを提案する。
提案手法は,遅延変位の線形汎関数として期待される打点時間を実現するヒルベルト空間変位幾何学を学習する。
実験の結果、IELはオフラインの迷路データから学習基盤政策の方針を改善できることが判明した。
- 参考スコア(独自算出の注目度): 11.842617767311873
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present a new operator-theoretic representation learning framework for offline reinforcement learning that recovers the directed temporal geometry of a controlled Markov process from hitting time observations. While prior art often produces symmetric distances or fails to satisfy the triangle inequality, our framework learns a Hilbert-space displacement geometry where expected hitting times are realized as linear functionals of latent displacements. We prove that this representation exists under latent linear closure and is uniquely identifiable up to a bounded linear isomorphism. For finite-dimensional implementations, we show that global hitting-time error is bounded by one-step transition error amplified by the environment's transient spectral radius. Furthermore, we provide finite-sample guarantees accounting for approximation, statistical complexity, and trajectory-label mismatch. Derived from this theory, we curate Isomorphic Embedding Learning (IEL) as a new goal-agnostic foundation policy learning algorithm that anchors a HILP-style consistency objective with explicit hitting-time regression to ensure that the learned geometry reflects actual decision-time progress. This asymmetric and compositional structure enables robust graph-based multi-stage planning for long-horizon navigation. Our experiments demonstrate that IEL improves the state of the art of learning foundation policy policies from offline maze locomotion data. Our code can be found on https://github.com/MagnusBoock/IEL
- Abstract(参考訳): 実時間観測から制御マルコフ過程の有向時間幾何を復元するオフライン強化学習のための演算子理論表現学習フレームワークを提案する。
先行技術はしばしば対称距離を生成したり、三角形の不等式を満たすのに失敗するが、我々のフレームワークはヒルベルト空間の変位幾何学を学習する。
我々は、この表現が潜在線型閉包の下に存在し、有界線型同型まで一意に識別可能であることを証明した。
有限次元実装では、大域的ヒットタイム誤差は環境の過渡スペクトル半径で増幅された一段階遷移誤差によって境界づけられていることを示す。
さらに, 近似, 統計複雑性, 軌道ラベルミスマッチを考慮した有限サンプル保証を行う。
本理論から導かれた同型埋め込み学習(IEL)は、HILPスタイルの整合性目標を明示的なヒット時間回帰で固定し、学習した幾何学が実際の決定時間進行を反映することを保証する新しい目標に依存しない基礎政策学習アルゴリズムである。
この非対称で構成的な構造は、長い水平航法のための堅牢なグラフベースの多段階計画を可能にする。
実験の結果、IELはオフラインの迷路移動データから学習基盤政策の最先端性を向上することが示された。
私たちのコードはhttps://github.com/MagnusBoock/IELで参照できます。
関連論文リスト
- On Multi-Step Theorem Prediction via Non-Parametric Structural Priors [50.16583672681106]
本研究では,インコンテキスト学習(ICL)のレンズによる学習自由な定理予測について検討する。
本稿では,過去の解の時間的依存関係を有向グラフとしてエンコードし,推論中に探索空間を効果的に引き起こす明示的なトポロジ的制約を課すTheorem Precedence Graphsを提案する。
FormalGeo7kベンチマークの実験から,本手法は89.29%の精度を実現し,ICLベースラインを著しく上回り,最先端の教師付きモデルに適合することがわかった。
論文 参考訳(メタデータ) (2026-03-05T06:08:50Z) - Orthogonalized Policy Optimization:Decoupling Sampling Geometry from Optimization Geometry in RLHF [0.0]
大規模言語モデルアライメントの目的はしばしば、PPO、DPO、IPO、およびそれらの変種といった、異なるアルゴリズムの集合として提示される。
この研究において、この多様性はより単純な基盤構造を曖昧にしていると論じる。
この絡み合いは、単にモデリングの利便性ではなく、体系的な不安定性の源であることを示す。
論文 参考訳(メタデータ) (2026-01-18T13:57:44Z) - The Geometry of Abstraction: Continual Learning via Recursive Quotienting [6.0044467881527614]
連続学習システムは、平面多様体問題という基本的な幾何学的障壁に直面している。
本稿では,このパラドックスに対して,再帰的計量の縮約に基づく幾何学的解法を提案する。
ニューラルネットワークのトークンは特異点やワームホールとして物理的に実現可能であることを示す。
論文 参考訳(メタデータ) (2025-12-20T19:10:38Z) - Enforcing Latent Euclidean Geometry in Single-Cell VAEs for Manifold Interpolation [79.27003481818413]
離散的様相変分オートエンコーダの潜在多様体をユークリッド幾何学へ正規化する訓練フレームワークであるFlatVIを紹介する。
遅延空間の直線を復号化された単セル多様体上の測地線に近似させることで、FlatVIは下流アプローチとの整合性を高める。
論文 参考訳(メタデータ) (2025-07-15T23:08:14Z) - Model-based RL as a Minimalist Approach to Horizon-Free and Second-Order Bounds [59.875550175217874]
本稿では,オンラインとオフラインのRL設定において,モデルベース強化学習方式が強い後悔とサンプル境界を実現することを示す。
我々のアルゴリズムは単純で、かなり標準的であり、実際にRLの文献で広く研究されている。
論文 参考訳(メタデータ) (2024-08-16T19:52:53Z) - What is Intelligence? A Cycle Closure Perspective [6.0044467881527614]
我々は、トポロジカル閉包法に根ざした構造力学的説明について論じる。
textbfMemory-Amortized Inference (MAI) はSbS,$rightarrow$,CCUPを実装する計算機構であることを示す。
論文 参考訳(メタデータ) (2024-04-08T13:06:23Z) - GELATO: Geometrically Enriched Latent Model for Offline Reinforcement
Learning [54.291331971813364]
オフライン強化学習アプローチは、近近法と不確実性認識法に分けられる。
本研究では,この2つを潜在変動モデルに組み合わせることのメリットを実証する。
提案したメトリクスは、分布サンプルのアウトの品質と、データ内のサンプルの不一致の両方を測定します。
論文 参考訳(メタデータ) (2021-02-22T19:42:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。