論文の概要: Saliency-Guided Representation with Consistency Policy Learning for Visual Unsupervised Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2604.05931v1
- Date: Tue, 07 Apr 2026 14:31:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-08 17:42:09.880759
- Title: Saliency-Guided Representation with Consistency Policy Learning for Visual Unsupervised Reinforcement Learning
- Title(参考訳): 視覚的教師なし強化学習のための一貫性ポリシー学習による衛生指導型表現
- Authors: Jingbo Sun, Qichao Zhang, Songjun Tu, Xing Fang, Yupeng Zheng, Haoran Li, Ke Chen, Dongbin Zhao,
- Abstract要約: Saliency-Guided Representation with Consistency Policy Learning (SRCP)は、ビジュアルURLにおけるSRメソッドのゼロショット一般化を改善する新しいフレームワークである。
SRCPは、ビジュアルURLにおける最先端のゼロショットの一般化を実現し、様々なSRメソッドと互換性がある。
- 参考スコア(独自算出の注目度): 27.43079141944335
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Zero-shot unsupervised reinforcement learning (URL) offers a promising direction for building generalist agents capable of generalizing to unseen tasks without additional supervision. Among existing approaches, successor representations (SR) have emerged as a prominent paradigm due to their effectiveness in structured, low-dimensional settings. However, SR methods struggle to scale to high-dimensional visual environments. Through empirical analysis, we identify two key limitations of SR in visual URL: (1) SR objectives often lead to suboptimal representations that attend to dynamics-irrelevant regions, resulting in inaccurate successor measures and degraded task generalization; and (2) these flawed representations hinder SR policies from modeling multi-modal skill-conditioned action distributions and ensuring skill controllability. To address these limitations, we propose Saliency-Guided Representation with Consistency Policy Learning (SRCP), a novel framework that improves zero-shot generalization of SR methods in visual URL. SRCP decouples representation learning from successor training by introducing a saliency-guided dynamics task to capture dynamics-relevant representations, thereby improving successor measure and task generalization. Moreover, it integrates a fast-sampling consistency policy with URL-specific classifier-free guidance and tailored training objectives to improve skill-conditioned policy modeling and controllability. Extensive experiments on 16 tasks across 4 datasets from the ExORL benchmark demonstrate that SRCP achieves state-of-the-art zero-shot generalization in visual URL and is compatible with various SR methods.
- Abstract(参考訳): ゼロショット教師なし強化学習(URL)は、追加の監督なしにタスクを見えないように一般化できるジェネリストエージェントを構築するための有望な方向を提供する。
既存のアプローチの中で、後継表現(SR)は、構造化された低次元の設定における有効性から、顕著なパラダイムとして現れている。
しかし、SR法は高次元の視覚環境への拡張に苦慮している。
経験的分析により,視覚URLにおけるSRの2つの重要な限界を識別する:(1)SRの目的は,ダイナミックス非関連領域に付随する最適下限表現をしばしば導き,不正確な後継対策と劣化したタスクの一般化をもたらす;(2)これらの欠陥のある表現は,マルチモーダルなスキル条件のアクション分布をモデル化し,スキル制御性を確保することを妨げる。
これらの制約に対処するため、視覚URLにおけるSRメソッドのゼロショット一般化を改善する新しいフレームワークであるSaliency-Guided Representation with Consistency Policy Learning (SRCP)を提案する。
SRCPは、サリエンシ誘導型動的タスクを導入し、ダイナミックス関連表現をキャプチャし、後継尺度とタスク一般化を改善することで、後継トレーニングからの表現学習を分離する。
さらに、スキル条件付きポリシーモデリングと制御性を改善するために、URL固有の分類子なしガイダンスと調整されたトレーニング目標とを、高速サンプリング整合ポリシに統合する。
ExORLベンチマークによる4つのデータセットにまたがる16のタスクに関する大規模な実験では、SRCPがビジュアルURLにおける最先端のゼロショットの一般化を実現し、様々なSRメソッドと互換性があることが示されている。
関連論文リスト
- A Unified Framework for Zero-Shot Reinforcement Learning [0.2951541543732647]
ゼロショット強化学習(Zero-shot reinforcement learning, RL)は、一般エージェントを教師なしで開発するための場として登場した。
関心が高まりつつあるにもかかわらず、この分野には共通の分析レンズがない。
ゼロショットRLのための最初の統一フレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-23T13:30:26Z) - CogDual: Enhancing Dual Cognition of LLMs via Reinforcement Learning with Implicit Rule-Based Rewards [53.36917093757101]
ロールプレイング言語エージェント (RPLA) は,Large Language Models (LLM) に対する重要な適用方向として登場した。
テキスト認識対応推論パラダイムを採用した新しいRPLAであるtextbfCogDualを紹介する。
外部状況認識と内部自己認識を共同でモデル化することにより、CagDualは文字整合性と文脈整合性を改善した応答を生成する。
論文 参考訳(メタデータ) (2025-07-23T02:26:33Z) - DiSa: Directional Saliency-Aware Prompt Learning for Generalizable Vision-Language Models [5.027492394254859]
DiSa は Directional Saliency-Aware Prompt Learning フレームワークである。
一般化を強化するために2つの補完正則化戦略を統合する。
さまざまな設定において、最先端のプロンプト学習方法よりも一貫して優れています。
論文 参考訳(メタデータ) (2025-05-26T00:14:52Z) - GuideSR: Rethinking Guidance for One-Step High-Fidelity Diffusion-Based Super-Resolution [15.563111624900865]
GuideSRは、画像の忠実度を高めるために特別に設計された、単一ステップ拡散に基づく画像超解像(SR)モデルである。
提案手法は,PSNR, SSIM, LPIPS, DISTS, FIDなど,様々な基準ベースの指標において,既存の手法よりも一貫して優れている。
論文 参考訳(メタデータ) (2025-05-01T17:48:25Z) - Salience-Invariant Consistent Policy Learning for Generalization in Visual Reinforcement Learning [12.9372563969007]
見えないシナリオにポリシーを一般化することは、視覚的強化学習において重要な課題である。
目に見えない環境では、不注意なピクセルがエージェントにタスク関連情報を含む表現を抽出させる可能性がある。
ゼロショット一般化のための効率的なフレームワークであるSalience-Invariant Consistent Policy Learningアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-02-12T12:00:16Z) - Exploiting Self-Supervised Constraints in Image Super-Resolution [72.35265021054471]
本稿では,SSC-SRと呼ばれる単一画像超解像のための新しい自己監督制約を提案する。
SSC-SRは、安定性を高めるために指数移動平均によって更新された二重非対称パラダイムとターゲットモデルを用いることで、画像の複雑さのばらつきに一意に対処する。
SSC-SRフレームワークはさまざまなベンチマークデータセットに対して,EDSR平均0.1dB,SwinIR平均0.06dBの大幅な拡張を実現している。
論文 参考訳(メタデータ) (2024-03-30T06:18:50Z) - Single-Reset Divide & Conquer Imitation Learning [49.87201678501027]
デモはDeep Reinforcement Learningアルゴリズムの学習プロセスを高速化するために一般的に使用される。
いくつかのアルゴリズムは1つのデモンストレーションから学習するために開発されている。
論文 参考訳(メタデータ) (2024-02-14T17:59:47Z) - ICF-SRSR: Invertible scale-Conditional Function for Self-Supervised
Real-world Single Image Super-Resolution [60.90817228730133]
単一画像超解像(SISR)は、与えられた低解像度(LR)画像を高解像度(HR)にアップサンプリングすることを目的とした課題である。
近年のアプローチは、単純化されたダウンサンプリング演算子によって劣化したシミュレーションLR画像に基づいて訓練されている。
Invertible Scale-Conditional Function (ICF) を提案する。これは入力画像をスケールし、異なるスケール条件で元の入力を復元する。
論文 参考訳(メタデータ) (2023-07-24T12:42:45Z) - Learning Task-relevant Representations for Generalization via
Characteristic Functions of Reward Sequence Distributions [63.773813221460614]
同じタスクで異なる環境にまたがる一般化は、視覚的強化学習の成功に不可欠である。
本稿では,タスク関連情報を抽出する手法として,特徴逆列予測(CRESP)を提案する。
実験により、CRESPは目に見えない環境での一般化性能を大幅に向上することが示された。
論文 参考訳(メタデータ) (2022-05-20T14:52:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。