論文の概要: Geometric Time Score Estimators: Bridging Self-Predictive Representations and Generative Occupancy Models For Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2610.38901v1
- Date: Wed, 28 Oct 2026 20:57:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.418211
- Title: Geometric Time Score Estimators: Bridging Self-Predictive Representations and Generative Occupancy Models For Reinforcement Learning
- Title(参考訳): 幾何学的時間スコア推定器:強化学習のための自己予測表現と生成機能モデル
- Abstract要約: Geometric Time Score Estimators (GTSE) は、確率パスに沿った占有密度推定器を学習するためのフレームワークである。
本稿では,GTSEが表現学習の改善を通じて,より優れた占有率を暗黙的に導き出す方法を示す。
目標条件付きRL設定において,GTSEは最先端手法よりも2times$から6times$に向上することを示す。
- 参考スコア(独自算出の注目度): 29.788433496370924
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In reinforcement learning (RL), temporal reasoning is essential for estimating the density of future outcomes under a policy's occupancy measure. While self-predictive representations have been a dominant paradigm for occupancy density estimation, we find that they yield surprisingly poor estimates. On the other hand, generative occupancy models can produce remarkably accurate samples from the occupancy measure. Yet, they cannot easily recover occupancy densities, limiting their use for control despite their expressivity. In this paper, we propose Geometric Time Score Estimators (GTSE), a framework that bridges the two paradigms by learning occupancy density estimators along probability paths. We analyze how GTSE implicitly induces better occupancy estimators through improved representation learning and show how to directly extract self-predictive representations from this framework. Through experiments across several locomotion and manipulation tasks, we show that GTSE improves performance over state-of-the-art methods by $2\times$ to $6\times$ in goal-conditioned RL settings, and that the representations learned using our framework transfer effectively to downstream RL tasks. Website: https://aravindvenu7.github.io/website/gtse/
- Abstract(参考訳): 強化学習(RL)では、政策の占有度に基づく将来の成果の密度を推定するために、時間的推論が不可欠である。
自己予測表現は, 占有密度推定において支配的なパラダイムであるが, 驚くほど低い推定値が得られることがわかった。
一方、生成的占有モデルでは、占有率から著しく正確なサンプルを作成できる。
しかし, 人口密度の回復は困難であり, 表現力にも拘わらず, コントロールに利用を制限している。
本稿では,GTSE(Geometric Time Score Estimators)を提案する。
我々は、GTSEが表現学習の改善を通じて、いかにしてより良い占有率を暗黙的に導き出すかを分析し、このフレームワークから直接自己予測表現を抽出するかを示す。
いくつかのロコモーションおよび操作タスクの実験を通して、GTSEはゴール条件付きRL設定において、最先端のメソッドよりも2\times$から6\times$に性能を向上し、フレームワークを下流のRLタスクに効果的に転送することで学習した表現が示される。
Webサイト: https://aravindvenu7.github.io/website/gtse/
関連論文リスト
- PRISM: Privileged Probabilistic Latent Supervision for End-to-End Autonomous Driving Motion Planning [18.741741219314836]
エンドツーエンドの自動運転システムは、認識、予測、計画を単一の異なるアーキテクチャに統合する。
近年の研究では、視覚言語モデル(VLM)の監視機能を統合してこの問題に対処している。
本手法は, 従来想定されていたVLM推論能力ではなく, トレーニング中のE2E ADモデルとGT(グラウンド・トゥルース)データとの潜伏接続から得られることを示す。
論文 参考訳(メタデータ) (2026-08-02T12:33:52Z) - Hista and Numca: Estimate State Value Effectively for LLM Reinforcement Learning [18.614878630206487]
強化学習 (Reinforcement Learning, RL) は、報酬信号を通じてモデル動作を直接最適化することにより、大きな言語モデル(LLM)を洗練する。
既存のRLフレームワーク内での状態推定を評価するための状態値推定ベンチマーク(SVEB)を導入する。
数値スパンを段階的なマイルストーンとして活用するNumcaと,LLMの隠蔽状態を重み付き平均解離ロールアウトの表現として利用するHistaの2つの手法を提案する。
論文 参考訳(メタデータ) (2026-05-28T11:31:13Z) - Quantifying the Pre-training Dividend: Generative versus Latent Self-Supervised Learning for Time Series Foundation Models [5.3565231231826695]
自己教師型学習(SSL)のビジョンとNLPは、時系列への急速な採用を動機付けている。
さまざまな時間的タスクにまたがってSSLが付加する価値である“事前トレーニング配当”を評価するためのフレームワークを確立します。
我々の分析では、事前学習配当は高度に非対称であり、異常検出と分類では最大375%の利得が得られるが、予測には限界がある。
論文 参考訳(メタデータ) (2026-05-19T07:13:20Z) - Enhancing Training Data Attribution with Representational Optimization [57.61977909113113]
トレーニングデータ属性法は、トレーニングデータがモデルの予測にどのように影響するかを測定することを目的としている。
本稿では,タスク固有表現とモデル整合表現をTDAで明示的に学習することで,このギャップを埋める表現ベースアプローチであるAirRepを提案する。
AirRepは、属性品質に合わせて調整されたトレーニング可能なエンコーダと、グループワイドの影響を正確に見積もるアテンションベースのプール機構の2つの重要なイノベーションを紹介している。
論文 参考訳(メタデータ) (2025-05-24T05:17:53Z) - How to Estimate Model Transferability of Pre-Trained Speech Models? [84.11085139766108]
事前学習音声モデルの伝達可能性推定のためのスコアベースアセスメントフレームワーク
ベイズ確率推定と最適輸送という2つの表現理論を利用して、PSM候補のランクスコアを生成する。
本フレームワークは,候補モデルやレイヤを実際に微調整することなく,転送可能性スコアを効率的に計算する。
論文 参考訳(メタデータ) (2023-06-01T04:52:26Z) - Value-Consistent Representation Learning for Data-Efficient
Reinforcement Learning [105.70602423944148]
本稿では,意思決定に直接関連のある表現を学習するための,VCR(Value-Consistent Expression Learning)という新しい手法を提案する。
この想像された状態と環境によって返される実状態とを一致させる代わりに、VCRは両方の状態に$Q$-valueヘッドを適用し、2つのアクション値の分布を得る。
検索不要なRLアルゴリズムに対して,提案手法が新たな最先端性能を実現することが実証された。
論文 参考訳(メタデータ) (2022-06-25T03:02:25Z) - Training Discrete Deep Generative Models via Gapped Straight-Through
Estimator [72.71398034617607]
再サンプリングのオーバーヘッドを伴わずに分散を低減するため, GST (Gapped Straight-Through) 推定器を提案する。
この推定子は、Straight-Through Gumbel-Softmaxの本質的な性質に着想を得たものである。
実験により,提案したGST推定器は,2つの離散的な深部生成モデリングタスクの強いベースラインと比較して,優れた性能を享受できることが示された。
論文 参考訳(メタデータ) (2022-06-15T01:46:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。