論文の概要: The Predictive--Optimization Gap in GuanDan Self-Play
- arxiv url: http://arxiv.org/abs/2610.29411v1
- Date: Wed, 21 Oct 2026 08:36:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 09:50:43.23768
- Title: The Predictive--Optimization Gap in GuanDan Self-Play
- Title(参考訳): GuanDanセルフプレイにおける予測-最適化ギャップ
- Abstract要約: グアンダン(GuanDan)は、ラウンド結果の含意がパブリックマッチ状態に依存する多ラウンド不完全情報ゲームである。
状態-利得相互作用は、一定の利得効果を超える漸進的な予測値をもたらすことを示す。
次に、凍結したマッチウィン予測器の$$の変化を、一致したDanZeroスタイルのモンテカルロセルフプレイプロトコルにおける制御されたラウンドレベルの監視介入として使用する。
- 参考スコア(独自算出の注目度): 7.159136693489452
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Outcome-predictive signals are often treated as promising optimization targets in reinforcement learning, but predictive validity and optimization utility are different claims. We expose this distinction in GuanDan, a multi-round imperfect-information game in which the implication of a round outcome depends on the public match state. Held-out analysis shows that state--gain interactions provide incremental predictive value beyond a constant signed-gain effect, establishing that match progress is predictively meaningful. We then use changes in a frozen match-win predictor, $ΔΦ$, as a controlled round-level supervision intervention in a matched DanZero-style Monte Carlo self-play protocol. The intervention can succeed in an individual lineage: a selected progress-augmented checkpoint substantially outperforms its matched Baseline on a locked evaluation. Yet the method-level result reverses this impression: none of five preregistered replication seeds is positive, the pooled ten-seed interval includes zero, and across-iteration effects repeatedly change sign without a common late-stage advantage. These results identify a predictive--optimization gap: under the studied learner, a signal can describe outcome-relevant progress while failing to provide a reliably beneficial optimization direction.
- Abstract(参考訳): 出力予測信号は、強化学習において有望な最適化目標として扱われることが多いが、予測妥当性と最適化ユーティリティは異なる主張である。
ラウンド結果の含意がパブリックマッチ状態に依存する多ラウンド不完全情報ゲームであるGuanDanで、この区別を明らかにする。
ヘルドアウト分析は、状態-利得相互作用が一定のサインイン効果を超える漸進的な予測値をもたらし、一致の進行が予測的に意味があることを証明している。
次に, 一致したダンゼロ式モンテカルロ自己再生プロトコルにおいて, 制御されたラウンドレベルの監視介入として, 凍結したマッチウィン予測器である$Δ$の変化を用いる。
選択された進捗拡張チェックポイントは、ロックされた評価において、マッチしたベースラインを大幅に上回る。
5つのプレ登録された複製種子はいずれも正ではなく、プールされた10シード間隔はゼロであり、共通な後期的優位性のない繰り返し変化符号である。
これらの結果は,予測最適化のギャップを識別する。学習者の下では,信号が結果関連進捗を記述できると同時に,確実に最適な最適化方向を提供することができない。
関連論文リスト
- Prospective Hindsight: Self-Calibrating Reinforcement Learning via Prediction-Reality Gaps [36.16230485322107]
ロングホライゾンエージェントの強化学習は、純粋な振り返りトレーニング信号に依存している。
本稿では,自己校正学習の原則であるProspective Hindsight(PH)を紹介する。
PHはタスク性能とキャリブレーションの両方を改善し、モデルスケール間で一貫した利得を示す。
論文 参考訳(メタデータ) (2026-10-02T03:12:00Z) - Recommendation World Models for Future-State Control [53.191633845200876]
我々は、訓練されたランク付け者が将来の結果についての意思決定を支援する方法について研究する。
UA-TWM(UA-TWM)は,近傍のスレート動作を構成するユーティリティアンコールなワールドモデルインタフェースである。
本研究は,MovieLens-25MとKuaiRand-Pureにおける12の逐次バックボーン間の移動と,KuaiSimにおけるターゲット指向インタラクションの繰り返しを評価する。
論文 参考訳(メタデータ) (2026-09-25T02:37:48Z) - Intrinsic-Extrinsic Coupling in Learning Dynamics [0.0]
制約付き学習状態介入の継続条件値を用いて本質的・外生的結合を定式化する。
我々は,地域の許容度,継続条件付き介入値,完全政治性能を区別する。
論文 参考訳(メタデータ) (2026-09-24T17:30:22Z) - Optimizing the Score, Losing Sight of the Task: Reward Hacking Across Weights, Selection, and Prompts [0.0]
プロキシエラーに対する到達可能な動作、最適化予算、永続的な適応形状の露出について示す。
正確な有限出力図示は、スコアリング欠陥の位置が各メソッドが好む振る舞いをどう変えるかを示す。
結果として得られるフレームワークは、最適化の選択と検証要件を結びつける。
論文 参考訳(メタデータ) (2026-09-22T08:12:58Z) - When Interference Graphs Evolve: Doubly Robust Estimation of Dynamic Peer Effects [1.049126606580198]
我々は,自己治療,時間的に集約されたピア露光,および課題後の進化の要約によって潜在的な結果をインデックスする制御されたコントラストフレームワークを導入する。
時間分解確率と正規化オーグメンテーションを組み合わせた動的ネットワーク二重ロバスト推定器DynaNet-DRを開発した。
論文 参考訳(メタデータ) (2026-08-27T14:32:40Z) - Probability-Entropy Calibration: An Elastic Indicator for Adaptive Fine-tuning [55.2818264614932]
RankTunerは確率エントロピーキャリブレーション信号、相対ランクインジケータを導入し、予測分布の下で接地トラストークンのランクと期待ランクを比較する。
逆インジケータはトークン単位の相対尺度として使用され、微調整の目的を再重み付けし、真に未学習のトークンを更新する。
論文 参考訳(メタデータ) (2026-02-02T07:27:19Z) - The Lie of the Average: How Class Incremental Learning Evaluation Deceives You? [48.83567710215299]
クラスインクリメンタルラーニング(CIL)では、モデルが学習済みのクラスを忘れずに、新しいクラスを継続的に学習する必要がある。
我々は、ロバストなCIL評価プロトコルは、性能分布全体を正確に特徴付け、推定するべきであると論じる。
我々は,タスク間類似度を用いて,極端なクラスシーケンスを適応的に識別し,サンプリングする評価プロトコルEDGEを提案する。
論文 参考訳(メタデータ) (2025-09-26T17:00:15Z) - Bidirectional Decoding: Improving Action Chunking via Guided Test-Time Sampling [51.38330727868982]
動作チャンキングが学習者と実証者の間の分岐にどのように影響するかを示す。
動作チャンキングをクローズドループ適応でブリッジするテスト時間推論アルゴリズムである双方向デコーディング(BID)を提案する。
提案手法は、7つのシミュレーションベンチマークと2つの実世界のタスクにまたがって、最先端の2つの生成ポリシーの性能を向上させる。
論文 参考訳(メタデータ) (2024-08-30T15:39:34Z) - Discussion: Effective and Interpretable Outcome Prediction by Training Sparse Mixtures of Linear Experts [4.178382980763478]
我々は,ゲートと専門家のサブネットの両方がロジスティック回帰器である,スパースミクチャー・オブ・エキスパートを訓練することを提案する。
このアンサンブルのようなモデルは、各サブネット内の入力機能のサブセットを自動的に選択しながら、エンドツーエンドで訓練される。
論文 参考訳(メタデータ) (2024-07-18T13:59:10Z) - Where is the Grass Greener? Revisiting Generalized Policy Iteration for
Offline Reinforcement Learning [81.15016852963676]
オフラインRL体制における最先端のベースラインを、公正で統一的で高分解能なフレームワークの下で再実装する。
与えられたベースラインが、スペクトルの一方の端で競合する相手よりも優れている場合、他方の端では決してしないことを示す。
論文 参考訳(メタデータ) (2021-07-03T11:00:56Z) - Deconfounding Scores: Feature Representations for Causal Effect
Estimation with Weak Overlap [140.98628848491146]
推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。
分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。
特に,この手法が標準正規化の魅力的な代替となることを示す。
論文 参考訳(メタデータ) (2021-04-12T18:50:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。