論文の概要: Diversity-Aware Experience Replay via Statistical Leverage Scores
- arxiv url: http://arxiv.org/abs/2611.05929v1
- Date: Wed, 04 Nov 2026 04:18:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:57.940922
- Title: Diversity-Aware Experience Replay via Statistical Leverage Scores
- Title(参考訳): 統計的レバレッジスコアによる多様性認識体験のリプレイ
- Abstract要約: 過去のリプレイバッファからランダムなサンプルを学習するオフ・プライマリ・ディープ・リジッション・ラーニング。
我々は,バッファのデータを相対的に測定する統計レバレッジにより,格納されたすべての遷移を評価することを提案する。
- 参考スコア(独自算出の注目度): 45.88028371034407
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Off-policy deep reinforcement learning trains on random samples from a replay buffer of past experience. In physical robot settings, that buffer is dominated by routine: thousands of near-identical transitions from normal operation, while the rare events that define the edges of the task are rarely sampled. We propose scoring every stored transition by its statistical leverage, which measures how unusual it is relative to the buffer's own data, computed from the stored numbers alone, with no labels, rewards, or value network. We draw each mini-batch from a mixture of this score and uniform sampling. First, the natural way to build the score along the directions where the data varies most turns out to be blind when actions are stored as one-hot indicators, because indicator columns always win the variance ranking; we instead select the feature columns with the heaviest tails (largest kurtosis) where small far-away populations are revealed. Second, the importance weights that prioritized replay uses to keep gradients unbiased cancel the method exactly: with full correction, training matches uniform sampling, so we drop the correction and deliberately optimize the rebalanced objective. Third, when the rare situations of a log are relational, visible only in how a stretch of behavior relates to its goal, not in any single stored coordinate-per-transition scores are blind; applying the same tail rule to short trajectory windows described relative to their goal restores the signal, and on a three-joint arm that must push an object around an obstacle it raises the rare-task success from 0.49 to 0.69 against a labeled-oracle ceiling of 0.74.
- Abstract(参考訳): 過去のリプレイバッファからランダムなサンプルを学習するオフ・プライマリ・ディープ・リジッション・ラーニング。
物理的なロボット設定では、そのバッファは通常の操作から何千ものほぼ同一の遷移によって支配されるが、タスクのエッジを定義するまれなイベントは滅多にサンプリングされない。
我々は,その統計レバレッジによって格納されたすべての遷移を評価することを提案する。これは,バッファの持つデータに対して,ラベルや報酬,あるいは値ネットワークを使わずに,格納された数だけから計算される異常値を測定する。
このスコアと均一サンプリングの混合から,各ミニバッチを描画する。
まず、データの変化の方向に沿ってスコアを構築する自然な方法は、アクションが1ホットのインジケータとして格納されているときに盲目となる。
第2に、リプレイが優先する重み付けは、勾配をバイアスなく保ち、完全に修正し、トレーニングが一様にサンプリングされるので、修正を落として、リバランスされた目的を意図的に最適化する。
第3に、ログの希少な状況がリレーショナルである場合、単一の格納された座標毎遷移スコアが盲目であるのではなく、そのゴールに対して記述された短い軌跡ウィンドウに同じテールルールを適用すると、信号が復元される。
関連論文リスト
- Rethinking Learning from Label Proportions via Moment Matching [53.344609839548035]
ラベルパーセンテージ(LLP)からの学習は、トレーニングデータをバッグに分類し、バッグレベルのラベルパーセンテージのみを観察する弱い教師付き環境である。
モーメントマッチング(LLP-MM)によるLPPを提案する。
論文 参考訳(メタデータ) (2026-10-15T04:58:58Z) - Inverse Reasoning Models for Efficient Post-Training and Verification from Answer-Only Data [0.0]
回答のみのデータを使用し、CoTを潜伏変数として扱う自己蒸留技術。
逆モデルは一度トレーニングされ、入ってくる応答専用データのバッチ間で再利用される。
ベスト・オブ・n$選択テスト時間に使用すると、Countdownで選択精度が0.753(多数投票)から0.969に上昇する。
論文 参考訳(メタデータ) (2026-10-01T01:56:34Z) - Ensemble Threshold Calibration for Stable Sensitivity Control [0.0]
本稿では,数千万組の幾何対もの幾何に対して,過度に分散した正確なリコールを実現するエンド・ツー・エンドのフレームワークを提案する。
我々のアプローチは、小さなエラーで常にリコールターゲットにヒットし、他のキャリブレーションと比較して冗長な検証を減らし、単一のTPU v3コア上でエンドツーエンドで実行します。
論文 参考訳(メタデータ) (2025-10-02T15:22:28Z) - Non-Uniform Memory Sampling in Experience Replay [1.9580473532948401]
破滅的な忘れを和らげるための一般的な戦略は、経験的なリプレイである。
ほとんどのアプローチでは、このバッファからのサンプリングはデフォルトで一様であると仮定する。
我々は試験毎に50種類の非一様サンプリング確率重みを生成し、最終的な精度を一様サンプリング基準値と比較する。
論文 参考訳(メタデータ) (2025-02-16T23:04:16Z) - Enhancing Consistency and Mitigating Bias: A Data Replay Approach for Incremental Learning [93.90047628101155]
ディープラーニングシステムは、一連のタスクから学ぶとき、破滅的な忘れがちだ。
これを解決するために、新しいタスク学習中に過去のタスクからのデータを再生する手法を提案する。
しかし、メモリの制約やデータプライバシーの問題により、実際には期待できない。
論文 参考訳(メタデータ) (2024-01-12T12:51:12Z) - Robust Outlier Rejection for 3D Registration with Variational Bayes [70.98659381852787]
我々は、ロバストアライメントのための新しい変分非局所ネットワークベース外乱除去フレームワークを開発した。
そこで本稿では, 投票に基づく不整合探索手法を提案し, 変換推定のための高品質な仮説的不整合をクラスタリングする。
論文 参考訳(メタデータ) (2023-04-04T03:48:56Z) - Pseudo-Labeling for Kernel Ridge Regression under Covariate Shift [1.3597551064547502]
対象分布に対する平均2乗誤差が小さい回帰関数を,ラベルなしデータと異なる特徴分布を持つラベル付きデータに基づいて学習する。
ラベル付きデータを2つのサブセットに分割し、カーネルリッジの回帰処理を行い、候補モデルの集合と計算モデルを得る。
モデル選択に擬似ラベルを用いることで性能を著しく損なうことはないことが判明した。
論文 参考訳(メタデータ) (2023-02-20T18:46:12Z) - Learning a Unified Sample Weighting Network for Object Detection [113.98404690619982]
地域サンプリングや重み付けは、現代の地域ベースの物体検出器の成功に極めて重要である。
サンプル重み付けはデータ依存でタスク依存であるべきだと我々は主張する。
サンプルのタスク重みを予測するための統一的なサンプル重み付けネットワークを提案する。
論文 参考訳(メタデータ) (2020-06-11T16:19:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。