論文の概要: Entropy-Gated Latent Recursion
- arxiv url: http://arxiv.org/abs/2606.16620v1
- Date: Mon, 15 Jun 2026 12:14:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:34.508576
- Title: Entropy-Gated Latent Recursion
- Title（参考訳）: Entropy-Gated Latent Recursion
- Abstract要約: インタイムスケーリングは言語モデル推論を改善する主要なレバーとなっている。
既存の方法は、単一ソースからロールアウトの多様性を導き出す:トークンレベルのサンプリング。
この単軸サンプリング空間は基本的に制限されている。
L$軸は真に温度と相補的であることを示す。
- 参考スコア（独自算出の注目度）: 9.65821666936513
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Inference-time scaling has become the dominant lever for improving language-model reasoning, but existing methods derive rollout diversity from a single source: stochastic token-level sampling. We argue that this single-axis sampling space is fundamentally limiting, and identify a second, fully deterministic and complementary axis: the layer span $L$ at which a frozen model's top decoder layers are recursively re-applied at high-uncertainty tokens. Different choices of $L$ produce distinct rollouts that solve different subsets of problems, with no stochasticity. We instantiate this axis through Entropy-Gated Latent Recursion (EGLR), a training-free decoding procedure that re-applies the top-$L$ layers for at most $K_{\max}$ iterations until the next-token distribution converges. Combined with $T$ temperature samples, EGLR turns a single-axis stochastic rollout pool into an $L\times T$ Cartesian sampling space at almost the same per-rollout cost. We characterize this space across $8$ instruction-tuned models and $6$ math reasoning benchmarks, and show that the $L$-axis is genuinely complementary to temperature: on MATH-500 with Qwen2.5-3B-Instruct, the joint $L\times T$ oracle reaches $91.6\%$, $+8.2$ percentage points beyond the temperature-only oracle ($83.4\%$) and $+10.4$ points beyond the layer-only oracle ($81.2\%$), confirming that the two axes capture genuinely complementary problems. The expanded rollout pool provides richer per-prompt candidates for any downstream procedure that consumes rollouts, including self-consistency, best-of-$N$ with verifiers, and group-relative RL training (GRPO), opening a new direction for inference-time scaling that does not rely on stochastic noise.
- Abstract（参考訳）: 推論時間のスケーリングは、言語モデル推論を改善するための主要なレバーとなっているが、既存の手法では、単一ソースである確率トークンレベルのサンプリングから、ロールアウトの多様性を導き出している。
この単軸サンプリング空間は基本的に制限されており、第2の決定論的かつ補完的な軸を同定する:この層は、凍結モデルのトップデコーダ層を高不確実なトークンで再帰的に再適用する、$L$にまたがる。
L$の異なる選択は、確率性なしで異なる問題のサブセットを解く異なるロールアウトを生成する。
この軸をEntropy-Gated Latent Recursion (EGLR) でインスタンス化する。これはトレーニング不要の復号処理で、最大$K_{\max}$イテレーションで上位$L$レイヤを適用できる。
T$の温度サンプルと組み合わせて、EGLRは1軸の確率的なロールアウトプールを、ロールアウト当たりのほぼ同じコストで、$L\times T$ Cartesianサンプリングスペースに変える。
MATH-500 with Qwen2.5-3B-Instruct, the joint $L\times T$ oracle reach 91.6\%$, $+8.2$ percentage points beyond the temperature-only oracle$83.4\%$) and $+10.4$ points beyond the layer-only oracle$81.2\%$。
拡張されたロールアウトプールは、自己整合性、検証子付きN$の最高値、グループ相対RLトレーニング(GRPO)など、ダウンストリームプロシージャを使用する任意のダウンストリームプロシージャに対して、よりリッチなプロシージャ毎の候補を提供する。
関連論文リスト
- Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors [51.56484100374058]
自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。
我々は、方向フラグを介して動的システムを前方または後方にステップする単一の条件付き潜在拡散モデルを訓練する。
この双方向性は測定不要なテスト時間誤差信号を提供することを示す。
論文 参考訳（メタデータ） (2026-08-01T13:49:46Z) - Minimax PAC Bounds for Learning in Exogenous Contextual MDPs [26.599514971653615]
PAC学習は、割引係数$$、有限状態空間$mathcal X$、アクション空間$mathcal A$、コンテキスト空間$mathcal Z$を含む割引決定プロセスにおける。
論文 参考訳（メタデータ） (2026-06-23T21:02:18Z) - SILAGE: Memory-Efficient, Full-Gradient-Free Nonconvex Optimization for Nested Finite Sums [51.49970814177172]
データセットに対する経験的リスクは、自然に$N=nm$全サンプルに類似性を示す。
我々は悲観的な収束分析を避ける分析を提供する。
我々の成果は、既存の最先端の体制を改善した。
論文 参考訳（メタデータ） (2026-06-14T14:11:07Z) - Sequential Physics-Constrained Neural Operator Forward Modeling for the $\ extit{Norne}$ Reservoir System [3.175986877079391]
ニューラル演算子を用いたブラックオイル貯留層力学の逐次サロゲートモデリングのための包括的フレームワークを開発した。
アプリケーション焦点はNorneベンチマーク貯水池で、不均一な$46times112times22$グリッドで定義されている。
1000人組のアンサンブルは、1つのB200 GPU上で1分以下で動作し、OPM有限体積シミュレータよりも$sim104times$ Wall-clockのスピードアップを提供する。
論文 参考訳（メタデータ） (2026-05-27T17:18:39Z) - Scalable Maximum Entropy Population Synthesis via Persistent Contrastive Divergence [0.0]
人口統計データから合成個体群を生成するための原則的枠組みを提示する。
GibbsPCDrは、有効なサンプルサイズを持つ人口を$Neff approx 0.012と比較し、エージェントベースの都市シミュレーションに欠かせない$86.8倍の多様性の利点を生んでいる。
GibbsPCDrは[0.010, 0.018]$で$MREを維持します。
論文 参考訳（メタデータ） (2026-03-28T15:36:20Z) - Parallel Sampling via Autospeculation [13.643401888306398]
我々は,任意の順序の自己回帰モデルと拡散モデルという2つの設定において,サンプリングを高速化するアルゴリズムを提案する。
オラクルコールを並列に発行することで、期待されるサンプリング時間を$widetildeO(n1/2)$に削減できることを示す。
我々は投機的拒絶サンプリングという新しい手法を導入する。
論文 参考訳（メタデータ） (2025-11-11T06:09:44Z) - From Continual Learning to SGD and Back: Better Rates for Continual Linear Models [50.11453013647086]
以前見られたタスクの損失を、$k$の繰り返しの後、忘れること、すなわち、分析する。
実現可能な最小二乗の設定において、新しい最上界を創出する。
我々は、タスクを繰り返しないランダム化だけで、十分に長いタスクシーケンスで破滅的な事態を防げることを初めて証明した。
論文 参考訳（メタデータ） (2025-04-06T18:39:45Z) - Stochastic Approximation Approaches to Group Distributionally Robust Optimization and Beyond [89.72693227960274]
本稿では,グループ分散ロバスト最適化 (GDRO) を,$m$以上の異なる分布をうまく処理するモデルを学習する目的で検討する。
各ラウンドのサンプル数を$m$から1に抑えるため、GDROを2人でプレイするゲームとして、一方のプレイヤーが実行し、他方のプレイヤーが非公開のマルチアームバンディットのオンラインアルゴリズムを実行する。
第2のシナリオでは、最大リスクではなく、平均的最上位k$リスクを最適化し、分散の影響を軽減することを提案する。
論文 参考訳（メタデータ） (2023-02-18T09:24:15Z) - Reward-Mixing MDPs with a Few Latent Contexts are Learnable [75.17357040707347]
報酬混合マルコフ決定過程(RMMDP)におけるエピソード強化学習の検討
我々のゴールは、そのようなモデルにおける時間段階の累積報酬をほぼ最大化する、ほぼ最適に近いポリシーを学ぶことである。
論文 参考訳（メタデータ） (2022-10-05T22:52:00Z) - A Variance-Reduced Stochastic Accelerated Primal Dual Algorithm [3.2958527541557525]
このような問題は、堅牢な経験的リスク最小化という文脈で機械学習で頻繁に発生する。
高速化された原始双対 (SAPD) アルゴリズムは勾配雑音に対する頑健な手法であると考えている。
提案手法は,SAPDの実践と理論の両方において改善されていることを示す。
論文 参考訳（メタデータ） (2022-02-19T22:12:30Z) - Reward-Free Model-Based Reinforcement Learning with Linear Function
Approximation [92.99933928528797]
エピソードマルコフ決定過程(MDP)に対する線形関数近似を用いたモデルに基づく無報酬強化学習について検討する。
計画段階では、特定の報酬関数が与えられ、探索フェーズから収集したサンプルを使用して良い政策を学ぶ。
任意の報酬関数に対して$epsilon$-optimal Policyを得るには,最大$tilde O(H4d(H + d)epsilon-2)$ episodesをサンプリングする必要がある。
論文 参考訳（メタデータ） (2021-10-12T23:03:58Z) - Sample Complexity of Asynchronous Q-Learning: Sharper Analysis and
Variance Reduction [63.41789556777387]
非同期Q-ラーニングはマルコフ決定過程(MDP)の最適行動値関数(またはQ-関数)を学習することを目的としている。
Q-関数の入出力$varepsilon$-正確な推定に必要なサンプルの数は、少なくとも$frac1mu_min (1-gamma)5varepsilon2+ fract_mixmu_min (1-gamma)$の順である。
論文 参考訳（メタデータ） (2020-06-04T17:51:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。