論文の概要: When Does Adaptive Halting Win? Selection Rules Matter in Looped Language Models
- arxiv url: http://arxiv.org/abs/2611.02333v1
- Date: Mon, 02 Nov 2026 00:28:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.547744
- Title: When Does Adaptive Halting Win? Selection Rules Matter in Looped Language Models
- Title(参考訳): 適応的ハルティングはいつ勝つか? ループ言語モデルにおける選択規則
- Abstract要約: 我々は、訓練された安定性プローブを、Ouroのネイティブゲートと比較する。
我々は,停止手法を選択手順とともに信号として比較すべきである,と結論付けた。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Looped language models can stop iterating early, and recent work shows that post-hoc readouts of the loop trajectory often rival the learned exit gate of the looped model Ouro. Such comparisons reduce each method to one operating point chosen by a selection rule. We ask whether that rule decides the outcome. On a frozen Ouro-1.4B with four loops, we compared a trained stability probe ($π_1$-x) with Ouro's native gate, adapted to a per-question stopping decision, in pre-registered studies; the confirmatory study was designed after an exploratory finding on development data and evaluated once on a sealed test set of 8,517 questions. In the pre-registered confirmatory comparison, which selected operating points with a bootstrap-screened 1 pp accuracy-loss rule, the probe saved more of the four-loop budget than the native gate (+0.053 gross macro saving over three benchmarks, 95% CI [+0.049, +0.057]), mostly from CommonsenseQA, where the probe's test upper bound on accuracy loss exceeded 1 pp. Under a point-only rule, a pre-specified secondary analysis on the same test set reversed the preference (-0.022 [-0.026, -0.018]), with operating points that exceeded the budget. In pre-specified secondary comparisons, the probe showed no demonstrated advantage over an untrained KL divergence between successive loops (+0.00125 [-0.0041, +0.0065]); we emphasise this result post hoc and claim no equivalence. The probe also broke its budget on one of two out-of-distribution benchmarks (3.26 pp loss on Social IQa). Savings are estimated from stored full-depth traces, not measured inference time, and our screen carries no formal risk-control guarantee. We conclude that halting methods should be compared as signals together with selection procedures, with strong untrained baselines and out-of-distribution checks.
- Abstract(参考訳): ループ言語モデルは、早期に反復を止めることができ、最近の研究は、ループ軌跡のホット後の読み出しが、ループモデルOuroの学習した出口ゲートとよく競合していることを示している。
このような比較により、各手法は選択規則で選択された1つの操作点に還元される。
私たちはその規則が結果を決定するかどうか尋ねる。
凍結したOuro-1.4Bに4ループの安定プローブ(π_1$-x)をOuroのネイティブゲートと比較した。
ブートストラップでスクリーニングされた1ppの精度損失ルールで操作点を選択した事前登録確認比較では、プローブはネイティブゲートよりも4ループの予算(95% CI [+0.049, +0.057])を多く節約した。
ポイントのみのルールの下では、同じテストセットで事前に特定された二次解析が、予算を超える操作ポイントを持つ好み(-0.022 [-0.026, -0.018])を逆転させた。
予備指定二次比較では, 連続ループ(+0.00125[-0.0041, +0.0065])間の未学習KLのばらつきに対して, 有意な優位性は示さなかった。
また、社会IQaの2つのアウト・オブ・ディストリビューション・ベンチマーク(3.26pp損失)の1つで予算を突破した。
保存された全深のトレースから保存量を推定するが、推測時間は測定されず、スクリーンには正式なリスクコントロールの保証がない。
提案手法は選択手順とともに信号として比較されるべきであり, 強い訓練を受けていないベースラインとアウト・オブ・ディストリビューション・チェックがある。
関連論文リスト
- When Does Test-Time Search Help World Action Models? An Empirical Audit of Candidate Selection and Simulator Integrity [43.246302566518644]
コスモス政策とロボカサの試験時間スケーリングを前提優先の事前登録手法で監査する。
クリーンデータでは、学習した値セレクタはランダムよりも1.66 pp、後光オラクルはわずか1.40 pp、エピソードレベルの間隔は0である。
我々は、公式の直接政治結果に影響を与えないまま、計算量の多い計画経路に沿って急上昇する静かなレンダリングの汚職を特定し、修正する。
論文 参考訳(メタデータ) (2026-10-30T16:21:07Z) - Self-Repulsive Sampling for Diffusion Language Models [42.61658629762382]
Self-Repulsion (SR) は、マスク付き拡散言語モデルのサンプルである。
パスはバッチ化されたフォワードパスを共有し、次に順番にコミットする。
投票の得票率は、主に正しい回答のより高いカバレッジから生じる。
論文 参考訳(メタデータ) (2026-09-30T11:58:40Z) - Budget Boundary Effects in Test-Time Mathematical Reasoning [4.925333713444691]
累積トークンキャップは、テストタイムコントローラにキャップ(制限)の停止を選択させ、現在の試行を終了させる(管理者)。
この境界選択を、19,200の公開トレースのペアのオフラインリプレイで測定する。
論文 参考訳(メタデータ) (2026-09-30T00:28:34Z) - Measuring Collapse and Correction in Homogeneous-Panel LLM Debate [51.03982042769297]
マルチエージェント大言語モデル(LLM)の議論は、最終回答が改善するかどうかによってしばしば評価されるが、運動は必ずしも改善されない。
標準的な最終精度評価は、これらの反対のメカニズムを詳述する。
複数選択質問(MCQ)に関する同質な議論のための監査可能なプロトコルを導入し、各実行を、崩壊、修正、オンセット、署名された介入ユーティリティよりも、遷移台帳として記録する。
論文 参考訳(メタデータ) (2026-09-28T14:31:19Z) - The Price of Peeking: Anytime-Valid Leakage Detection on ML-KEM EM Traces [45.88028371034407]
本研究は, ベットによる検査に基づく漏洩検出について検討する。
13000~20000のサンプルに対して繰り返し表示される$|t|>4.5$は2.7-12.9%の複製で誤報を発生させた。
論文 参考訳(メタデータ) (2026-09-27T14:14:10Z) - Terminal-Register Certification for Finite-Measurement Learning of Multiscale Quantum States [1.9599274203282304]
逆2次元多スケールエンタングルメント再正規化アンサッツ(MERA)による純粋一次元状態の学習について検討する。
理想的な逐次および終端測定スケジュールが一致した因果操作の下で同じ完全ビット列分布を提供することを確認した。
雑音認識定理は、有限ショット証明書に個別の摂動総変量実装予算を導入する。
論文 参考訳(メタデータ) (2026-09-27T13:41:20Z) - When Does Learning to Stop Help? A Cost-Aware Study of Early Exits in Reasoning Models [4.8190992438931035]
LearnStopは、プレフィックスオブザーバブルな機能の上に隠された状態のないロジスティックストッパーである。
学習は、答えが振動し、正しさの証拠が広がる場所を給与する。
コスト計算は、KVキャッシュでトークンを32%節約するのと同じ方針で、ブラックボックスの繰り返しプリフィルで121%余分なコストがかかる。
論文 参考訳(メタデータ) (2026-06-29T19:33:42Z) - Learning with a Single Rollout via Monte Carlo Pass@k Critic [41.21709991031287]
拡張学習におけるトークンレベルの利点を推定することは、エピソード体験コレクションのスケールアップが高価であるため困難である。
言語モデルのためのRLにおけるトークンレベルの信用代入を特徴とする単一ロールアウトポリシ最適化について検討する。
SR-PPOは、Pass@128の成功率の連続的な上昇とともに、安定した学習力学を示すことを示す。
論文 参考訳(メタデータ) (2026-06-24T06:26:34Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳(メタデータ) (2026-05-15T17:08:27Z) - Pause and Reflect: Conformal Aggregation for Chain-of-Thought Reasoning [8.024041325202612]
自己整合性を考慮した思考の連鎖(CoT)推論は、複数のサンプル推論パスを集約することで性能を向上させる。
集約不確実性に直接対処するCoT推論のコンフォメーション手順を導入する。
提案手法は,多数決を推理経路よりも重み付けしたスコアアグリゲーションに置き換え,共形リスク制御を用いた棄権規則を校正する。
論文 参考訳(メタデータ) (2026-05-13T20:33:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。