論文の概要: When Does the Best Sampling Temperature Rise with the Budget? Sufficient Conditions for Pass@k

• arxiv url: http://arxiv.org/abs/2608.14665v1
• Date: Sat, 01 Aug 2026 08:43:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-23 14:54:39.953263
• Title: When Does the Best Sampling Temperature Rise with the Budget? Sufficient Conditions for Pass@k
• Title（参考訳）: 予算で最高のサンプリング温度はいつ上昇するのか? Pass@k に十分な条件
• Abstract要約: pass@k$を最大化する温度は、小さなサンプリング予算では低く、大きな予算では高くなります。 この機構は, 単トン様比比比の低いタスクへの傾きを示す。 この貢献は確立された経験的現象の条件理論であり、将来の研究で検証できる仮定を持つ。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The temperature that maximizes pass@$k$ is often low for a small sampling budget and higher for a large budget. This pattern has been reported from Codex through recent multi-sample inference studies. It is not an algebraic property of pass@$k$: as Slocum et al. (ICLR 2025) observe, for one fixed task the maximizing temperature is independent of $k$. Building on that fixed-task observation and the hard/easy-task explanation, we give a formal population-level sufficient condition for the aggregate pattern. For task $X$, let $p_t(X)$ be one-sample success probability at temperature $t$, and define the conditional log-success response $m_t(u)=\mathbb{E}[\dot p_t(X)\mid p_t(X)=u]/u$. If $m_t(u)$ is nonincreasing in current success probability, then the normalized temperature derivative of aggregate pass@$k$ is nondecreasing in $k$. Consequently, derivative signs are nested across budgets; if each temperature-performance curve is strictly single-peaked, its unique maximizer is nondecreasing in $k$. The proof identifies the mechanism as a monotone-likelihood-ratio power tilt toward lower-success tasks. We derive a closed-form two-stratum phase diagram, including upward and downward regimes, and show that the marginal temperature derivative admits an exact $\mathrm{Beta}(2,k)$ kernel representation whose kernel concentrates at one-sample success of order $1/k$. Interpreting that scale as task-level localization additionally requires a regular, nonvanishing density-response factor near zero. A signed-moment representation yields diagnostic shape restrictions, while a short appendix records exact discrete refinements of the existing multi-configuration allocation formulation. No language model is trained, and no model query is used as an experimental measurement: the contribution is a conditional theory of an established empirical phenomenon, with assumptions that can be tested in future work.
• Abstract（参考訳）: pass@k$を最大化する温度は、小さなサンプリング予算では低く、大きな予算では高くなります。 このパターンは、最近のマルチサンプル推論研究を通じてCodexから報告されている。 これはpass@$k$:の代数的性質ではない: Slocum et al (ICLR 2025) が観測するように、ある固定タスクに対して、最大化温度は$k$とは独立である。 固定タスクの観察とハード/イージータスクの解説に基づいて, 凝集パターンに対する公式な集団レベルの十分条件を与える。 タスク $X$ に対して、$p_t(X)$ を温度 $t$ の1サンプル成功確率とし、条件付き対数応答 $m_t(u)=\mathbb{E}[\dot p_t(X)\mid p_t(X)=u]/u$ を定義する。 m_t(u)$ が現在の成功確率で非増加であるなら、集約パス@k$ の正規化温度微分は $k$ で非減少する。 その結果、微分符号は予算にまたがってネストされ、各温度性能曲線が厳密に単ピークの場合、そのユニークな最大値は$k$で非減少する。 この証明は、このメカニズムを低頻度タスクへのモノトン様比の傾きとして特定する。 我々は、上向きと下向きの規則を含む閉形式の2層相図を導出し、限界温度微分が正確な$\mathrm{Beta}(2,k)$カーネル表現を認め、核は1/k$の1サンプルの成功に集中していることを示す。 このスケールをタスクレベルのローカライゼーションとして解釈するには、ゼロに近い正則で、消滅しない密度応答因子が必要である。 符号付きモーメント表現は診断形状の制限を与えるが、短い付録は既存の多重配置割り当ての定式化を正確に離散的に記録する。 言語モデルは訓練されず、モデルクエリも実験的な測定には使用されない: コントリビューションは確立された経験的現象の条件理論であり、将来の研究で検証できる仮定である。

関連論文リスト

• Robust Average-Reward Markov Decision Processes: Minimax-Optimal Learning via Plug-in Reductions [51.50375419691955]
  分布的に堅牢なマルコフ決定プロセスは、モデルの不確実性の下でのシーケンシャルな意思決定のための原則化されたフレームワークを提供する。 我々は,平均回帰基準の下で,$varepsilon$-Optimal robust policyを学習するのに必要なサンプル数と十分なサンプル数について検討した。
  論文  参考訳（メタデータ） (2026-08-06T19:49:48Z)
• Statistical inverse learning and $\ell^1$-regularization [0.27998963147546135]
  統計的逆学習の枠組みにおいて,有限,雑音,間接的な観測からスパース関数の回復について検討した。 我々は、ほぼ公約指数を確立し、予測基準と$ell1$復元基準の両方において、非漸近的高確率収束率を導出する。
  論文  参考訳（メタデータ） (2026-07-08T14:32:08Z)
• Breaking the Finite-Sample Barrier in Entropy Coupling [9.251944578856843]
  限界に制約された観測の依存関係は、有限サンプル障壁を破る可能性がある。 我々は、この現象を、エントロピー結合$H(P|Q_1,dots,Q_m)$の導入によって定式化する。 分布マッチング表現学習とランダムネス抽出において,同じ枠組みが有限サンプル制限を定式化することを示す。
  論文  参考訳（メタデータ） (2026-05-15T17:39:57Z)
• Introducing Background Temperature to Characterise Hidden Randomness in Large Language Models [0.27299033472568546]
  本稿では,実装に依存した摂動過程によって誘導される有効温度である,エンファンバックグラウンド温度$T_mathrmbg$の概念を紹介する。 理想参照システムの等価温度$T_n(I)$を介して$T_bg$を推定する経験的プロトコルを提案する。
  論文  参考訳（メタデータ） (2026-04-24T10:11:06Z)
• Tight Convergence Rates for Online Distributed Linear Estimation with Adversarial Measurements [66.94250413799232]
  分散パラメータ-サーバ-ワーカー設定における乱数ベクトル$X$の推定について検討する。 主な課題は、敵の計測と非同期である。 その結果, 分散線形推定におけるロバスト性, 識別性, 統計的効率の統一的有限時間評価が得られた。
  論文  参考訳（メタデータ） (2026-04-07T11:45:55Z)
• Non-asymptotic bounds for forward processes in denoising diffusions: Ornstein-Uhlenbeck is hard to beat [49.1574468325115]
  本稿では,全変動(TV)における前方拡散誤差の非漸近的境界について述べる。 我々は、R$からFarthestモードまでの距離でマルチモーダルデータ分布をパラメライズし、加法的および乗法的雑音による前方拡散を考察する。
  論文  参考訳（メタデータ） (2024-08-25T10:28:31Z)
• A Unified Framework for Uniform Signal Recovery in Nonlinear Generative Compressed Sensing [68.80803866919123]
  非線形測定では、ほとんどの先行結果は一様ではない、すなわち、すべての$mathbfx*$に対してではなく、固定された$mathbfx*$に対して高い確率で保持される。 本フレームワークはGCSに1ビット/一様量子化観測と単一インデックスモデルを標準例として適用する。 また、指標集合が計量エントロピーが低い製品プロセスに対して、より厳密な境界を生み出す濃度不等式も開発する。
  論文  参考訳（メタデータ） (2023-09-25T17:54:19Z)
• Estimating the minimizer and the minimum value of a regression function under passive design [72.85024381807466]
  最小値 $boldsymbolx*$ と最小値 $f*$ を滑らかで凸な回帰関数 $f$ で推定する新しい手法を提案する。 2次リスクと$boldsymbolz_n$の最適化誤差、および$f*$を推定するリスクについて、漸近的でない上界を導出する。
  論文  参考訳（メタデータ） (2022-11-29T18:38:40Z)
• On quantitative Laplace-type convergence results for some exponential probability measures, with two applications [2.9189409618561966]
  密度 w.r.t ルベーグ測度 $(mathrmd pi_varepsilon)_varepsilon >0$ ルベーグ測度 $(mathrmd pi_varepsilon)_varepsilon >0$ ルベーグ測度 $(mathrmd pi_varepsilon)_varepsilon >0$ ルベーグ測度 $(mathrmd pi_varepsilon)_varepsilon >0$ ルベーグ測度 $(mathrmd)
  論文  参考訳（メタデータ） (2021-10-25T13:00:25Z)
• Simulated annealing from continuum to discretization: a convergence analysis via the Eyring--Kramers law [10.406659081400354]
  連続時間アニーリング$(X_t;, t ge 0)$とその離散化$(x_k;, k =0,1, ldots)$の収束率について検討する。 我々は、テール確率 $mathbbP(f(X_t) > min f +delta)$ (resp. $mathP(f(x_k) > min f +delta)$) が時間内に崩壊することを証明する(累積ステップサイズでは、resp. $mathP(f(x_k) > min f +delta)$)。
  論文  参考訳（メタデータ） (2021-02-03T23:45:39Z)
• Sample Complexity of Asynchronous Q-Learning: Sharper Analysis and Variance Reduction [63.41789556777387]
  非同期Q-ラーニングはマルコフ決定過程(MDP)の最適行動値関数(またはQ-関数)を学習することを目的としている。 Q-関数の入出力$varepsilon$-正確な推定に必要なサンプルの数は、少なくとも$frac1mu_min (1-gamma)5varepsilon2+ fract_mixmu_min (1-gamma)$の順である。
  論文  参考訳（メタデータ） (2020-06-04T17:51:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。