論文の概要: DT-JEPA: Learning to Predict Future Representations for Decision-Making

• arxiv url: http://arxiv.org/abs/2610.32657v1
• Date: Fri, 23 Oct 2026 14:04:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.538059
• Title: DT-JEPA: Learning to Predict Future Representations for Decision-Making
• Title（参考訳）: DT-JEPA: 意思決定のための将来の表現を予測するための学習
• Abstract要約: JEPA(Joint Embedding Predictive Architectures)は、自己管理型学習ベースの世界モデルにおいて、有望なパラダイムとして登場した。 報奨のないオフライン軌道から一般知識を学習するオフライン事前学習およびオンライン微調整フレームワークDT-JEPAを提案する。 DT-JEPAは、様々なオフラインRLタスクに対して効率よく適応し、従来のDTベースや他のオフラインRLメソッドよりも優れていることを示す。
• 参考スコア（独自算出の注目度）: 45.78723640797969
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Decision Transformer (DT) has demonstrated strong performance in various offline reinforcement learning (RL) tasks by conditioning action generation on expected future returns and historical trajectories. However, treating expected future returns as the condition provides an incomplete description of the future, as trajectories with different state transitions and behaviors may share similar returns. Moreover, expected future returns inherently depend on task-specific reward functions, which makes policy learning reliant on reward-labeled datasets and restricts its scalability to tasks with similar but unseen rewards. Recently, Joint Embedding Predictive Architectures (JEPA) have emerged as a promising paradigm of self-supervised learning-based world models, which learn predictive representations of future dynamics in latent space rather than reconstructing future states in the original space. Inspired by JEPA, we propose DT-JEPA, an offline pretraining and online fine-tuning framework that learns general knowledge from reward-free offline trajectories and achieves excellent adaptation to unseen tasks. Instead of predicting a single deterministic future embedding, we design a novel probabilistic predictor to model the conditional distribution of future representations in the latent space, thereby capturing both predictive information and uncertainty about future dynamics. Theoretically, we show that 1) the JEPA objective seeks to maximize a variational lower bound on the mutual information between historical representations and future trajectories; and 2) predictive future-conditioned policy learning admits a finite-sample performance bound with an O(N-1/4) estimation term. Experiments on D4RL benchmarks demonstrate that DT-JEPA achieves efficient adaptation across varying offline RL tasks, outperforming traditional DT-based and other offline RL methods.
• Abstract（参考訳）: 決定変換器(DT)は,様々なオフライン強化学習(RL)タスクにおいて,期待される将来のリターンと過去のトラジェクトリにアクション生成を条件付けることで,高い性能を示した。 しかし、状態遷移と振舞いの異なる軌道が同様のリターンを共有する可能性があるため、期待される将来のリターンを条件として、将来の不完全な説明を提供する。 さらに、期待される未来は、本来はタスク固有の報酬関数に依存するため、ポリシー学習は報酬ラベル付きデータセットに依存し、スケーラビリティは類似しているが見当たらない報酬を持つタスクに制限される。 近年,JEPA (Joint Embedding Predictive Architectures) は,従来の空間における未来の状態を再構築するのではなく,潜在空間における未来のダイナミクスの予測的表現を学習する,自己指導型学習ベース世界モデルの有望なパラダイムとして出現している。 JEPAにインスパイアされたDT-JEPAは、報奨のないオフライン軌道から一般知識を学習し、目に見えないタスクへの優れた適応を実現するオフライン事前学習およびオンライン微調整フレームワークである。 一つの決定論的未来埋め込みを予測する代わりに、潜在空間における将来の表現の条件分布をモデル化する新しい確率予測器を設計し、将来のダイナミクスに関する予測情報と不確実性の両方をキャプチャする。 理論的には 1)JEPAの目的は,歴史表現と将来の軌跡の相互情報の変動的下限を最大化することを目的とする。 2)予測的将来条件付き政策学習では,O(N-1/4)推定項に限定した有限サンプル性能が認められる。 D4RLベンチマークの実験では、DT-JEPAは、様々なオフラインRLタスクにまたがる効率的な適応を実現し、従来のDTベースおよび他のオフラインRLメソッドより優れていることが示されている。

関連論文リスト

• DA-WAM: Decision-Aligned Future Latents for Driving World Models [6.756366477497099]
  DA-WAMは、予測表現学習、行動条件付き将来のモデリング、軌道スコアを単一の意思決定目標の下で統一するフレームワークである。 動作条件付き予測器は、トラジェクトリ候補毎の異なる将来の潜在状態を生成し、将来の遅延条件付き因子化スコアラによって評価される。 NAVSIM-v1とNAVSIM-v2の実験は、最先端の性能を示し、改善と診断分析は鍵となる構成要素を検証する。
  論文  参考訳（メタデータ） (2026-08-19T16:33:02Z)
• TD-JEPA: Latent-predictive Representations for Zero-Shot Reinforcement Learning [63.73629127832652]
  本稿では,TDに基づく潜在予測表現を教師なしRLに活用するTD-JEPAを紹介する。 TD-JEPAは、明示的な状態とタスクエンコーダ、ポリシー条件付きマルチステップ予測器、パラメータ化されたポリシーのセットを潜時空間で直接訓練する。 実証的には、TD-JEPAは13のデータセットにわたる移動、ナビゲーション、操作のタスクにおいて、最先端のベースラインをマッチまたは上回る。
  論文  参考訳（メタデータ） (2025-10-01T10:21:18Z)
• Learning from Reward-Free Offline Data: A Case for Planning with Latent Dynamics Models [79.2162092822111]
  我々は,一連のナビゲーションタスクにおいて,強化学習(RL)と制御に基づく手法を体系的に評価する。 我々は、JEPA(Joint Embedding Predictive Architecture)を使用して、潜在ダイナミクスモデルを使用し、それを計画に使用します。 その結果,モデルベースプランニングではレイアウトが不明瞭になるのに対して,モデルフリーのRLは高品質なデータから恩恵を受けることがわかった。
  論文  参考訳（メタデータ） (2025-02-20T18:39:41Z)
• Latent Plan Transformer for Trajectory Abstraction: Planning as Latent Space Inference [53.419249906014194]
  オフライン強化学習から得られたデータセットを用いた計画のための生成モデルについて検討する。 本稿では,Transformerベースのトラジェクトリジェネレータと最終戻り値との接続に潜時変数を利用する新しいモデルであるLatent Plan Transformerを紹介する。
  論文  参考訳（メタデータ） (2024-02-07T08:18:09Z)
• RESET: Revisiting Trajectory Sets for Conditional Behavior Prediction [12.945951957551317]
  本稿では、トラジェクトリセット生成のための新しいメトリック駆動アルゴリズムとグラフベースのエンコーダを組み合わせたRESETを提案する。 非条件予測では、RESETは回帰ベースのアプローチと同等のパフォーマンスを達成する。 条件付き予測では、RESETは計画された軌道の遅い融合によって合理的な結果を得る。
  論文  参考訳（メタデータ） (2023-04-12T13:39:09Z)
• Foresee then Evaluate: Decomposing Value Estimation with Latent Future Prediction [37.06232589005015]
  価値関数は強化学習(rl)の中心的な概念である 将来予測付き価値分解(VDFP)を提案する。 価値関数を潜在未来ダイナミクス部とポリシー非依存軌道返却部とに分析分解し、潜在ダイナミクスをモデル化する方法を誘導し、価値推定において別々に返却する。
  論文  参考訳（メタデータ） (2021-03-03T07:28:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。