論文の概要: Correcting Within-Group Self-Selection Bias in Prioritized Replay
- arxiv url: http://arxiv.org/abs/2609.25297v1
- Date: Mon, 21 Sep 2026 18:41:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:04.084046
- Title: Correcting Within-Group Self-Selection Bias in Prioritized Replay
- Title(参考訳): 優先再生におけるグループ内自己選択バイアスの補正
- Abstract要約: 優先体験再生(PER)は、高優先度遷移を再生することでサンプリング効率を向上させる。
環境において、PERは、同じ状態-作用対を持つ遷移から再生された実効結果の分布を歪めることができる。
我々は、グループ内結果の周波数の変化とベルマン目標の平均を定量化する。
- 参考スコア(独自算出の注目度): 11.652221710150824
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Prioritized experience replay (PER) improves sample efficiency by replaying high-priority transitions, usually according to absolute temporal-difference error. In stochastic environments, PER can distort the distribution of realized outcomes replayed from transitions with the same state-action pair. We call this within-group self-selection. We quantify the resulting changes in within-group outcome frequencies and mean Bellman targets. We decompose PER into between-group allocation and conditional sibling selection, and derive fixed-buffer corrections that preserve current group-level priority mass: SAMPLE selects a group through PER and trains on a uniformly sampled sibling; AVG averages sibling Bellman targets; and MODEL samples from an empirical full-outcome model. In exact state-action environments with rare high-magnitude outcomes, sibling-aware replay improves learning efficiency over PER, although matched parameter sweeps show that tuning can narrow some gaps. In MinAtar, approximate VQ-VAE groups with SAMPLE mitigate degradation under mean-preserving reward tails in four of five games. Sibling-aware replay thus retains the focus on high-priority state-action regions while recovering their empirical outcome frequencies.
- Abstract(参考訳): 優先度付き体験再生(PER)は、通常絶対時間差誤差に従って、高優先度遷移を再生することでサンプリング効率を向上させる。
確率的環境では、PERは同じ状態-作用対の遷移から再生された実効結果の分布を歪曲することができる。
これをグループ内での自己選択と呼ぶ。
我々は、グループ内結果の周波数の変化とベルマン目標の平均を定量化する。
我々は、PERをグループ間割り当てと条件付き兄弟姉妹選択に分解し、現在のグループレベルの優先度を保った固定バッファ補正を導出する:SAMPLEはPERを通してグループを選択し、一様にサンプリングされた兄弟姉妹上で訓練する;AVGはBellmanのターゲットを平均化し、MODELは経験的なフルアウトカムモデルからサンプリングする。
希少な高次結果を持つ正確な状態反応環境において、兄弟認識リプレイはPERよりも学習効率を向上させるが、マッチングパラメータスイープは、チューニングがいくつかのギャップを狭めることを示している。
MinAtarでは、5つのゲーム中4つの平均保存報酬テールの下で、SAMPLEによる近似VQ-VAE群が劣化を緩和する。
これにより、兄弟認識のリプレイは、経験的な結果の頻度を回復しながら、高優先度な状態反応領域に焦点を合わせ続ける。
関連論文リスト
- PRIME: Mitigating Subgroup Optimization Competition in Shared CTR Top Networks with Plug-in Residual Input-Conditioned Mixture of Expert [16.073701450851008]
4つのモデルと4つのセマンティックフィールドを持つアバズ上での競合について検討する。
我々は,低ランクの残留専門家を混在させたPRIME(Plug-in Residual Input- Conditioned Mixture of Experts)を紹介する。
論文 参考訳(メタデータ) (2026-08-31T08:37:44Z) - Self-Balancing Sequential Sampling: Fast Convergence with Controlled Predictability [0.7734726150561088]
所望の目標法則への経験分布のより高速な収束を達成するために、サンプリング確率を適応的にバイアスするシーケンシャルサンプリング規則。
自己バランス型サンプリングは実装が簡単であり、マルコフ型サンプリングのクラスの中で自然に発生する。
結果は、将来の選択を過度に予測できるようにすることなく、繰り返しの選択とカバレッジの長いギャップを減らすための実践的なフレームワークをサポートする。
論文 参考訳(メタデータ) (2026-07-23T01:10:42Z) - GRCF: Two-Stage Groupwise Ranking and Calibration Framework for Multimodal Sentiment Analysis [20.77940776708036]
ペアワイズな順序学習フレームワークは、比較から学ぶことで相対的な順序を捉える。
彼らは全ての比較に均一な重要性を割り当て、ハード・ツー・ランクのサンプルに適応的に焦点をあてることに失敗した。
本稿では,グループ相対的政策最適化の理念を取り入れた二段階群ランク付け・フレームワークを提案する。
GRCFは、コア回帰ベンチマークで最先端のパフォーマンスを達成すると同時に、分類タスクにおいて強力な一般化性を示す。
論文 参考訳(メタデータ) (2026-01-14T16:26:44Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z) - Directly Attention Loss Adjusted Prioritized Experience Replay [0.07366405857677226]
優先度付き再生体験(PER)は、アクセス頻度を人工的に変化させることで、比較的重要なサンプルについてより深く学習することを可能にする。
DALAPが提案され、パラレル自己保持ネットワークを通じて、シフト分布の変化範囲を直接定量化することができる。
論文 参考訳(メタデータ) (2023-11-24T10:14:05Z) - Modeling the Q-Diversity in a Min-max Play Game for Robust Optimization [61.39201891894024]
群分布的ロバスト最適化(群 DRO)は、事前定義された群に対する最悪の損失を最小限にすることができる。
グループDROフレームワークをQ-Diversityを提案して再構築する。
インタラクティブなトレーニングモードによって特徴付けられるQ-Diversityは、アノテーションからグループ識別を緩和し、直接パラメータ化を行う。
論文 参考訳(メタデータ) (2023-05-20T07:02:27Z) - Sample-Efficient Optimisation with Probabilistic Transformer Surrogates [66.98962321504085]
本稿では,ベイズ最適化における最先端確率変換器の適用可能性について検討する。
トレーニング手順と損失定義から生じる2つの欠点を観察し、ブラックボックス最適化のプロキシとして直接デプロイすることを妨げる。
1)非一様分散点を前処理するBO調整トレーニング,2)予測性能を向上させるために最適な定常点をフィルタする新しい近似後正則整定器トレードオフ精度と入力感度を導入する。
論文 参考訳(メタデータ) (2022-05-27T11:13:17Z) - Rethinking Sampling Strategies for Unsupervised Person Re-identification [59.47536050785886]
我々は,同じフレームワーク下での各種サンプリング戦略と損失関数のパフォーマンス差の理由を解析した。
グループサンプリングを提案し、同じクラスのサンプルをグループに集める。
Market-1501、DukeMTMC-reID、MSMT17の実験は、グループサンプリングが最先端の手法に匹敵する性能を達成することを示した。
論文 参考訳(メタデータ) (2021-07-07T05:39:58Z) - Two-Stage TMLE to Reduce Bias and Improve Efficiency in Cluster
Randomized Trials [0.0]
クラスタランダム化トライアル(CRT)は、ランダムに個人グループへの介入を割り当て、それらのグループ内の個人に対する結果を測定する。
クラスタ内の一部の個人には発見が欠落することが多い。
CRTは、しばしば限られた数のクラスターをランダムにし、その結果、腕間のベースライン結果予測器に不均衡をもたらす。
論文 参考訳(メタデータ) (2021-06-29T21:47:30Z) - Jo-SRC: A Contrastive Approach for Combating Noisy Labels [58.867237220886885]
Jo-SRC (Joint Sample Selection and Model Regularization based on Consistency) というノイズロバスト手法を提案する。
具体的には、対照的な学習方法でネットワークをトレーニングする。
各サンプルの2つの異なるビューからの予測は、クリーンまたは分布不足の「可能性」を推定するために使用されます。
論文 参考訳(メタデータ) (2021-03-24T07:26:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。