論文の概要: Sparse-TD-JEPA: Improving Zero-Shot Reinforcement Learning With Sparse Latent Task Representations
- arxiv url: http://arxiv.org/abs/2610.14400v1
- Date: Fri, 09 Oct 2026 23:42:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 21:47:08.152824
- Title: Sparse-TD-JEPA: Improving Zero-Shot Reinforcement Learning With Sparse Latent Task Representations
- Title(参考訳): Sparse-TD-JEPA: Sparse Latent Task Representationによるゼロショット強化学習の改善
- Abstract要約: 我々は、報酬予測構造をタスクエンコーダの潜在空間のより小さな有効部分空間に集約するl1スペーサのペナルティを導入する。
Sparse-TD-JEPAはゼロショット強化学習の性能を著しく向上させた。
- 参考スコア(独自算出の注目度): 6.3240435869587515
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Successor-feature-based zero-shot reinforcement learning methods pre-train a task encoder and successor-feature predictor on offline, reward-free data, then recover a policy at test time by solving a closed-form linear regression over a small labeled dataset. We identify an underexplored limitation of this approach: when the task encoder produces dense representations, the inferred reward signal becomes diffuse across the state space, reducing the contrast between goal-relevant states and the background and providing a weaker signal for the policy to follow. We address this limitation by introducing an l1 sparsity penalty that concentrates reward-predictive structure into a smaller effective subspace of the task encoder's latent space. The penalty is applied only during training and requires no architectural change or modification to the closed-form inference procedure. We instantiate this approach as Sparse-TD-JEPA, a single-line of code addition based on Temporal-Difference Joint-Embedding Predictive Architecture (TD-JEPA) that significantly improved its performance in zero-shot reinforcement learning. We evaluate Sparse-TD-JEPA on 65 tasks across the DeepMind Control (DMC) Suite and OGBench, covering locomotion, navigation, trajectory stitching, puzzle solving, and robotic manipulation. Sparse-TD-JEPA improves over TD-JEPA in all 13 domain-level comparisons. On DMC, it increases the average return from 661 +- 6 to 714 +- 3. On OGBench, it increases the average success rate from 38.0 +- 0.8 to 48.4 +- 2.3, with improvements of 13.4-18.0 percentage points on the evaluated antmaze navigation and stitching domains. Overall, Sparse-TD-JEPA achieves the highest mean performance among established zero-shot baselines in nine of the 13 domains. Analysis further shows that sparsity produces a sharper and more task-informative inferred reward landscape.
- Abstract(参考訳): タスクエンコーダと後継機能予測器をオフラインかつ報酬のないデータで事前訓練し、小さなラベル付きデータセット上で閉形式線形回帰を解くことにより、テスト時にポリシーを回復する。
タスクエンコーダが高密度表現を生成すると、推定された報酬信号が状態空間全体に拡散し、目標関連状態と背景とのコントラストが減少し、ポリシーに従うための弱い信号が提供される。
タスクエンコーダの潜伏空間のより小さな有効部分空間に報酬予測構造を集中させる l1 スパーシリティペナルティを導入することで、この制限に対処する。
ペナルティはトレーニング中のみ適用され、アーキテクチャの変更やクローズドフォーム推論手順の変更は不要である。
Sparse-TD-JEPAはTD-JEPA(TD-Difference Joint-Embedding Predictive Architecture)に基づく一行のコード追加であり、ゼロショット強化学習のパフォーマンスを大幅に向上させる。
Sparse-TD-JEPAをDeepMind Control (DMC) SuiteとOGBenchの65タスクで評価し,移動,ナビゲーション,軌道縫合,パズルの解法,ロボット操作について検討した。
Sparse-TD-JEPAは13のドメインレベルの比較でTD-JEPAよりも改善されている。
DMCでは、661 +- 6 から 714 +- 3 への平均戻り値を増加させる。
OGBench では、平均成功率は 38.0 +-0.8 から 48.4 +- 2.3 に増加し、評価されたAntmaze ナビゲーションと縫合ドメインで 13.4-18.0 のポイントが向上した。
全体として、Sparse-TD-JEPAは13ドメインのうち9ドメインで確立されたゼロショットベースラインの中で最高の平均性能を達成している。
分析により、スパーシリティはよりシャープで、よりタスクインフォーマティブな推論された報酬の風景を生み出すことが示された。
関連論文リスト
- Homomorphic Advantage Operator: Stabilizing Reinforcement Learning Under Fully Homomorphic Encryption Constraints [0.0]
本稿では,FHEに基づく深部RLにおける近似偏差を防止するための安定化フレームワークを提案する。
提案したHAOフレームワークを3層実験手法を用いて評価した。
その結果,提案したHAOは,安全な近似領域内でのネットワークプレアクティベーションを厳密に制限していることがわかった。
論文 参考訳(メタデータ) (2026-10-01T17:14:32Z) - Substrate-Aware AI Agents: Execution Context as a First-Class Input [0.0]
最小限の実行契約は、生成プログラムにおけるプロアクティブな構造適応を誘導することを示す。
これらの結果は、基質認識エージェント計画のための制御された概念実証を確立した。
論文 参考訳(メタデータ) (2026-09-04T14:57:17Z) - On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。
トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
論文 参考訳(メタデータ) (2026-08-31T06:35:07Z) - RecGPT-Mobile-V2 Technical Report [22.10290138930905]
RecGPT-Mobile-V2は、意図的品質と実行効率をステージド設計の目的として扱うエンドツーエンドフレームワークである。
このフレームワークは異種間相互作用をエビデンス保存軌道に変換し、ドメイン適応と教師付きアライメントを通じてレコメンデーションネイティブ基盤を確立する。
オンライン検索分析では、クエリリコールチャネルは、確立されたリコールチャネルによってサーフェスされたインベントリに補完されるインベントリを検索することを示している。
論文 参考訳(メタデータ) (2026-08-25T09:23:17Z) - LocalNav: Distilling Frontier VLMs and Embodied RL for On-Device Object Goal Navigation [53.88286427894783]
視覚言語モデル(VLM)は、ロボット分野において、言語コンテキストによる環境認識を可能にする強力なツールとして登場した。
しかし、彼らの計算フットプリントは、通常、それらをクラウド実行に制限し、リソースに制約のあるロボットへのローカルなデプロイによる低レイテンシの推論を妨げる。
本稿では,大規模フロンティアモデルからの複雑な空間意味推論を,組み込みGPUデバイス上でエッジ実行を行うための軽量な4BパラメータローカルVLMに転送する蒸留戦略を提案する。
論文 参考訳(メタデータ) (2026-06-26T09:11:59Z) - Subspace-Decomposed JEPAs: Disentangling Progression and Content in Latent World Models [1.034052616244602]
統合埋め込み予測アーキテクチャは、将来の埋め込みを予測することによって、コンパクトな潜在世界モデルを学ぶ。
JEPAラテントを2つのサブスペースに彫ります。
2つの反崩壊力が解離座標に作用することを証明し、同じ次元で競合するのではなく、加法的に構成する。
論文 参考訳(メタデータ) (2026-05-29T10:23:48Z) - Beyond Heuristics: Learnable Density Control for 3D Gaussian Splatting [78.96382179408054]
強化学習(RL)により最適化されたパラメータ化ポリシネットワークとして密度制御を再構築するフレームワークであるbfLeGSを紹介する。
計算的トラクタビリティを維持するために、報酬計算の複雑さを$O(N2)$から$O(N)$に下げる閉形式解を導出する。
Mip-NeRF 360、Tants & Temples、Deep Blendingのデータセットの実験は、bfLeGSが最先端の手法を大幅に上回っていることを示している。
論文 参考訳(メタデータ) (2026-05-01T05:04:49Z) - LeJEPA: Provable and Scalable Self-Supervised Learning Without the Heuristics [53.247652209132376]
JEPA(Joint-Embedding Predictive Architectures)は、有望な青写真を提供するが、実践的なガイダンスや理論の欠如がアドホックな研究開発につながっている。
我々はJEPAの包括的な理論を示し、それをbf LeJEPAでインスタンス化する。
論文 参考訳(メタデータ) (2025-11-11T18:21:55Z) - Opacity-Gradient Driven Density Control for Compact and Efficient Few-Shot 3D Gaussian Splatting [0.0]
本稿では,3DGSの最適化を最適化し,効率を優先するフレームワークを提案する。
我々は、標準位置勾配を、不透明度勾配をレンダリングエラーの軽量プロキシとして利用する新しい密度化トリガに置き換える。
3ビューのLLFFデータセットでは、我々のモデルはFSGSよりも40%以上コンパクト(32k対57kプリミティブ)であり、Mip-NeRF 360データセットでは約70%の削減を実現している。
論文 参考訳(メタデータ) (2025-10-11T15:33:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。