論文の概要: The Optimal Decoder is Tilted Temperature

• arxiv url: http://arxiv.org/abs/2610.15058v1
• Date: Sat, 10 Oct 2026 16:49:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 02:46:32.283869
• Title: The Optimal Decoder is Tilted Temperature
• Title（参考訳）: 最適デコーダは温度が低下している
• Abstract要約: 以上の結果から,LLMのサンプリング温度が高いことが示唆された。 サンプルサイズ$k$で多様性予算をスケーリングする自然法則の下で、結果の最適温度は$k$で上昇する。 オフライン設定では、モデルが校正されると、そのログ確率はアフィンマップまでの正確性を追跡する。
• 参考スコア（独自算出の注目度）: 17.185410309988217
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Larger sample budgets benefit from higher sampling temperatures in LLMs, but what temperature tuning optimizes and why it works remain poorly understood. We seek to answer these questions: we pose decoding as pass@$k$ maximization subject to two constraints that encode critical decoding failure modes: an entropy floor preventing diversity collapse, and a cross-entropy ceiling preventing implausibility. We prove that this maximization takes the form of a single closed-form conditional sampling rule, the \emph{tilted temperature} $q^\star \propto \bigl(p e^{ηV}\bigr)^{1/T}$. Here, the tilt comes from a verifier potential $V$ that quantifies how likely a partial generation is to eventually pass. Ordinary temperature sampling, verifier-greedy decoding, and reward-tilted policies represent special cases. We further show that, under a natural rule for scaling the diversity budget with sample size $k$, the resulting optimal temperature increases with $k$, turning empirical choice into a theorem. The optimum still needs the unknown verifier potential, which we estimate using two design approaches. In the online setting, our J-EOS algorithm jointly tracks the two constraint multipliers and learns the verifier potential from binary pass/ fail feedback alone. In the offline setting, we show that when the model is calibrated, its log-probability tracks correctness up to an affine map. Under this condition, the tilt collapses into the exponent and the optimum reduces to ordinary temperature sampling. Calibrated Temperature Decoding (CTD) then fits one scalar offline and samples with zero additional inference-time overhead relative to temperature sampling. Building on these decision rules, we design a practical decoding algorithm for code generation and evaluate it alongside CTD on benchmarks including HumanEval and MBPP, showing improvements over standard and adaptive decoding baselines.
• Abstract（参考訳）: より大規模なサンプル予算は、LLMのサンプリング温度の上昇による恩恵を受けるが、温度調整が最適化するものは何であり、なぜ機能するのかはよく分かっていない。 重要なデコード障害モードをエンコードする2つの制約 - 多様性の崩壊を防ぐエントロピーフロアと、不確実性を防ぐクロスエントロピー天井だ。 この最大化は、単一の閉形式条件付きサンプリング則、$q^\star \propto \bigl(p e^{ηV}\bigr)^{1/T}$の形をとることを証明している。 ここで、傾きは、ある部分生成が最終的に通過する確率を定量化する検証子ポテンシャル$V$から来る。 通常の温度サンプリング、検証器-グレーディ復号、報酬型ポリシーは特別な場合を表す。 さらに、サンプルサイズ$k$で多様性予算をスケールする自然法則の下で、結果の最適温度は$k$で増加し、経験的選択を定理に変換する。 最適性はまだ未知の検証可能性を必要としており、2つの設計手法を用いて見積もっている。 オンライン環境では、J-EOSアルゴリズムは2つの制約乗算器を共同で追跡し、バイナリパス/フェールフィードバックのみから検証電位を学習する。 オフライン設定では、モデルが校正されると、そのログ確率はアフィンマップまでの正確性を追跡する。 この条件下では、傾きは指数に崩壊し、最適値は通常の温度サンプリングに還元される。 キャリブレーション温度復号法(CTD)は、1つのスカラーをオフラインに適合させ、温度サンプリングに対する追加の推測時間オーバーヘッドをゼロにする。 これらの決定ルールに基づいて,HumanEval や MBPP などのベンチマーク上で,コード生成のための実用的なデコードアルゴリズムを設計し,CTD と併用して評価し,標準および適応デコードベースラインの改善を示す。

関連論文リスト

• Information-Theoretic Foundations of Online Temperature Sampling [21.654334464305034]
  繰り返し、縮退生成はLLM復号の持続的な失敗であり、標準的な修復(温度、核、トップ$k$サンプリング)は静的である。 本稿では,各接頭辞の温度を再現するEntropic Online Smpling (EOS)を提案する。 実験では、EOSがオフライン温度を追跡し、エントロピーの温度を一定に保った。
  論文  参考訳（メタデータ） (2026-10-10T16:29:04Z)
• ConicFlow: constrained Inference-time optimal control for flow matching models [72.24720987598323]
  ConicFlowフレームは、最適制御問題として、推論時のフローマッチングモデルからのサンプリングを制約した。 我々は,各ステップの軌跡のショートウィンドウのみを最適化し,遅延水平制御を適用して計算的トラクタビリティを向上する。 最近の大規模フローマッチングモデルによる低次元および高次元の両方の実験により、ConicFlowは高い報酬と強い制約満足度を達成することが示された。
  論文  参考訳（メタデータ） (2026-10-09T20:32:34Z)
• Beyond Post-Hoc Temperature Scaling: Bilevel Optimization for LLM Calibration [8.906593271577266]
  優先アライメントは、しばしば大きな言語モデル(LLM)を過度に信頼し、キャリブレーションが不十分にする。 キャリブレーションの目的として,予測分布のエントロピーの最大化を提案する。 本手法は、領域外一般化において特に有利な、よく校正されたLLMが得られる。
  論文  参考訳（メタデータ） (2026-08-07T17:05:10Z)
• Wall-Clock Complexity for Zeroth-Order Optimization with Tunable Oracle Fidelity [68.54852541944625]
  ブラックボックス最適化は勾配が利用できない場合に適用され、客観的評価は高価なシミュレーションに依存する。 本稿では, オラクル型, ノイズモデル, 最適化方式の選択が, アルゴリズムパラメータに対する壁面最適選択をいかに引き起こすかを示す。
  論文  参考訳（メタデータ） (2026-05-29T14:24:54Z)
• Bandit Convex Optimization with Gradient Prediction Adaptivity [56.816177049016794]
  本研究では, 楽観的な勾配予測が, 最悪の後悔の保証を予測順応的に改善できるかどうかを考察する。 鍵となるアイデアは、分散が勾配ノルムではなく予測誤差でスケールする、新しい分散還元勾配推定器である。 我々は、$(sqrtmathbbE[S_T])$としてスケールする情報理論の下限を確立し、最も達成可能な予測適応的後悔の基本的な特徴を提供する。
  論文  参考訳（メタデータ） (2026-05-21T08:57:38Z)
• Estimation of Toeplitz Covariance Matrices using Overparameterized Gradient Descent [1.7188280334580195]
  単純降下レンズ(GD)によるToeplitz共分散推定の再検討 K = P$ のとき、GD は準最適解に収束する。 本稿では,振幅と周波数の学習率の異なる高速なGD変種を提案する。
  論文  参考訳（メタデータ） (2025-11-03T14:07:53Z)
• Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
  凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。 このような問題は医学、物理学、機械学習で発生する。 両種類の雑音下で提案アルゴリズムの収束保証を行う。
  論文  参考訳（メタデータ） (2024-11-21T10:26:17Z)
• Adaptive Decoding via Latent Preference Optimization [55.70602730588745]
  モデルに付加されたレイヤであるAdaptive Decodingを導入し、推論時にサンプリング温度を動的に選択する。 我々の手法は、異なる温度を必要とする様々なタスクにおいて、すべての固定デコード温度を上回ります。
  論文  参考訳（メタデータ） (2024-11-14T18:31:39Z)
• Efficient and Accurate Optimal Transport with Mirror Descent and Conjugate Gradients [13.848861021326755]
  離散最適輸送(OT)問題を高精度に解くための新しい手法として,ミラーDescent Optimal Transport (MDOT)を提案する。 我々は,GPU並列非線形共役アルゴリズム(PNCG)を用いて,従来のシンクホーンの繰り返しを弱い正規化の下で効率よく解く。
  論文  参考訳（メタデータ） (2023-07-17T14:09:43Z)
• Normalized/Clipped SGD with Perturbation for Differentially Private Non-Convex Optimization [94.06564567766475]
  DP-SGDとDP-NSGDは、センシティブなトレーニングデータを記憶する大規模モデルのリスクを軽減する。 DP-NSGD は DP-SGD よりも比較的チューニングが比較的容易であるのに対して,これらの2つのアルゴリズムは同様の精度を実現する。
  論文  参考訳（メタデータ） (2022-06-27T03:45:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。