論文の概要: CIG: Exploration via Conditional Information Gain
- arxiv url: http://arxiv.org/abs/2605.20878v1
- Date: Wed, 20 May 2026 08:15:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.56762
- Title: CIG: Exploration via Conditional Information Gain
- Title(参考訳): CIG:条件付き情報ゲインによる探索
- Authors: Tim Joseph, Marcus Fechner, Philipp Stegmaier, Karam Daaboul, J. Marius Zöllner,
- Abstract要約: 異なる文脈における強化学習条件における探索の本質的な報奨
条件情報ゲイン(CIG)は、トラクタブルサロゲートとしての報酬である。
我々はCIGをモデルベースでインスタンス化し、ロールアウトは短く、ロールアウト内修正は未探索のままである。
- 参考スコア(独自算出の注目度): 10.289348661352841
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Intrinsic rewards for exploration in reinforcement learning condition on different contexts: lifelong rewards score each transition against accumulated experience but ignore within-rollout redundancy; episodic rewards penalize intra-trajectory repetition but discard lifetime progress. Hybrid methods combine both signals through heuristic weights or require Gaussian-process dynamics that do not scale beyond low-dimensional state spaces. Trajectory-level information gain decomposes into per-step terms that condition on the replay buffer and rollout prefix simultaneously, but remains intractable for deep models. We derive the Conditional Information Gain (CIG) reward as a tractable surrogate: a log-determinant objective over an ensemble disagreement kernel whose Cholesky factorization yields causal per-step rewards that retain both conditioning sets while scaling to high-dimensional state spaces. We instantiate CIG in a model-based setting, where rollouts are short and within-rollout corrections remain largely unexplored. Across twelve tasks spanning discrete (MiniGrid) and continuous control (OGBench), in both clean and stochastic-distractor settings, CIG outperforms or matches prior exploration methods while remaining robust to stochastic distractors.
- Abstract(参考訳): 生涯報酬は、蓄積した経験に対して各遷移をスコアするが、ロールアウトの冗長性は無視する;エピソード報酬は軌道内反復を罰するが、寿命の進歩は放棄する。
ハイブリッド法は両信号をヒューリスティックな重みを通して結合するか、低次元状態空間を超えてスケールしないガウス過程のダイナミクスを必要とする。
トラジェクトリレベルの情報ゲインは、リプレイバッファとロールアウトプレフィックスの条件をステップ単位に分解するが、深いモデルでは難解である。
コンディション情報ゲイン(CIG: Conditional Information Gain)報酬を,高次元状態空間にスケーリングしながら両条件セットを保持するステップ毎の報酬をColesky因子化したアンサンブル不一致カーネル上の対数決定対象として導出する。
我々はCIGをモデルベースでインスタンス化し、ロールアウトは短く、ロールアウト内修正は未探索のままである。
離散的(MiniGrid)と連続的制御(OGBench)にまたがる12のタスクにおいて、クリーンかつ確率的/分散的設定の両方において、CIGは、確率的トラクタに頑健なまま、事前の探索方法よりも優れているか、あるいは一致している。
関連論文リスト
- QHyer: Q-conditioned Hybrid Attention-mamba Transformer for Offline Goal-conditioned RL [34.9638718909932]
オフラインのゴール条件付きRL(GCRL)は、静的データセットから目標設定ポリシーを学ぶ。
実世界のデータセットは部分的に観測可能で歴史に依存しており、マルコフと非マルコフの混合を示す。
textbfQHyerは、コンテンツ適応履歴圧縮を実行する、ゲート付きハイブリッドアテンション-マンババックボーンを導入している。
論文 参考訳(メタデータ) (2026-05-03T13:11:28Z) - Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。
シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
論文 参考訳(メタデータ) (2026-04-11T10:47:22Z) - Dual-Stage Invariant Continual Learning under Extreme Visual Sparsity [8.16821029459195]
背景駆動の勾配は、連続的なドメインシフトの間、機能のバックボーンを不安定にすることを示す。
連成蒸留による二段階不変連続学習フレームワークを提案する。
高分解能空間ベース RSO 検出データセットの実験は、確立された連続物体検出法よりも一貫した改善を示す。
論文 参考訳(メタデータ) (2026-03-27T09:03:49Z) - Certified Quantum Schrödinger Control via Hierarchical Tucker Models [2.033424698590539]
本稿では,固定ランクHTプロジェクションで実装したサンプルデータフィードバック制御のためのフレームワークを開発する。
各トランケーションを名目閉ループの有界なランク依存として見ることにより、HT射影力学は事実上指数関数的に安定であることを示す。
論文 参考訳(メタデータ) (2026-03-20T17:46:50Z) - Forecasting as Rendering: A 2D Gaussian Splatting Framework for Time Series Forecasting [79.37674445572462]
時系列予測(TSF)は、周期内変動と周期間トレンドの複雑な絡み合いのため、依然として困難な問題である。
形状変化テンソルを静止画像として扱うと、トポロジカルミスマッチが発生する。
均一な固定サイズの表現に依存することは、モデリング能力を非効率に割り当てる。
TimeGSは、予測パラダイムをレグレッションから2D生成レンダリングに根本的にシフトする、新しいフレームワークである。
論文 参考訳(メタデータ) (2026-02-10T14:13:36Z) - TGSFormer: Scalable Temporal Gaussian Splatting for Embodied Semantic Scene Completion [38.31128137855632]
Embodied 3D Semantic Scene Completionは、連続した自我中心の観測から密集した幾何学と意味を推測する。
最近のDeep-Guidedアプローチはこの問題を軽減するが、スケールが増加するにつれてレイテンシとメモリオーバーヘッドに悩まされ、ローカルのままである。
SSCを具現化するための拡張性のある時空間ガウス分割フレームワーク TGSFormer を提案する。
論文 参考訳(メタデータ) (2025-11-29T03:47:14Z) - Bench2Drive-R: Turning Real World Data into Reactive Closed-Loop Autonomous Driving Benchmark by Generative Model [63.336123527432136]
我々は,リアクティブ閉ループ評価を可能にする生成フレームワークであるBench2Drive-Rを紹介する。
既存の自動運転用ビデオ生成モデルとは異なり、提案された設計はインタラクティブなシミュレーションに適したものである。
我々は、Bench2Drive-Rの生成品質を既存の生成モデルと比較し、最先端の性能を達成する。
論文 参考訳(メタデータ) (2024-12-11T06:35:18Z) - OrCo: Towards Better Generalization via Orthogonality and Contrast for Few-Shot Class-Incremental Learning [57.43911113915546]
FSCIL(Few-Shot Class-Incremental Learning)は、問題空間を限られたデータで拡張するパラダイムを導入する。
FSCILの手法は、データが漸進的に到着するにつれて、破滅的な忘れ込みの課題に直面している。
表現空間における特徴の直交性と対照的な学習という2つの基本原理に基づいて構築されたOrCoフレームワークを提案する。
論文 参考訳(メタデータ) (2024-03-27T13:30:48Z) - Towards Continual Learning Desiderata via HSIC-Bottleneck
Orthogonalization and Equiangular Embedding [55.107555305760954]
本稿では,レイヤワイドパラメータのオーバーライトや決定境界の歪みに起因する,概念的にシンプルで効果的な手法を提案する。
提案手法は,ゼロの指数バッファと1.02倍の差が絶対的に優れていても,競争精度が向上する。
論文 参考訳(メタデータ) (2024-01-17T09:01:29Z) - Modular Deep Reinforcement Learning for Continuous Motion Planning with
Temporal Logic [59.94347858883343]
本稿では,マルコフ決定過程(MDP)をモデルとした自律動的システムの運動計画について検討する。
LDGBA と MDP の間に組込み製品 MDP (EP-MDP) を設計することである。
モデルフリー強化学習(RL)のためのLDGBAベースの報酬形成と割引スキームは、EP-MDP状態にのみ依存する。
論文 参考訳(メタデータ) (2021-02-24T01:11:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。