論文の概要: LAND: Learning an Adaptive Number of Draws for Bayesian Best-of-N Selection
- arxiv url: http://arxiv.org/abs/2611.03388v1
- Date: Mon, 02 Nov 2026 16:26:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 04:50:49.406036
- Title: LAND: Learning an Adaptive Number of Draws for Bayesian Best-of-N Selection
- Title(参考訳): LAND:Bayesian Best-of-N選択のための適応的な図面数学習
- Abstract要約: Best-of-Nデコーディングは、追加サンプリングの恩恵に拘わらず、ソースに等しく計算を割り当てる。
本稿では,後続予測限界値に応じて動的にサンプルを割り当てるLANDを提案する。
Landは一致した平均計算で固定されたベスト・オブ・NよりもMetricXスコアがよい。
- 参考スコア(独自算出の注目度): 1.8520994824290395
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Best-of-N decoding improves generation quality by sampling multiple candidates and selecting the best, but it allocates equal compute to sources regardless of how much they benefit from additional sampling: the expected benefit is small for sources with low-variance score distributions and potentially much larger for those with high-variance distributions. To address this shortcoming, we propose LAND (Learning an Adaptive Number of Draws), which dynamically allocates samples according to their posterior-predictive marginal value. LAND learns a discrete empirical mixture of source-conditioned score distributions from calibration data, updates its belief about a source as completion scores are observed, and stops sampling when the expected improvement of another draw falls below a shared compute price. Across machine-translation experiments with multiple models and language pairs, LAND achieves better MetricX scores than fixed best-of-N at matched average compute. Conversely, at matched translation quality, LAND requires approximately 20-40% fewer candidate generations. Adaptive allocation therefore provides a simple way to retain the benefits of best-of-N while substantially improving its compute efficiency.
- Abstract(参考訳): ベスト・オブ・Nデコーディングは、複数の候補をサンプリングし、ベストを選択することで生成品質を向上させるが、追加サンプリングの恩恵がどの程度あるかに関わらず、ソースに等しく計算を割り当てる。
この欠点に対処するため,LAND (Learning an Adaptive Number of Draws) を提案する。
LANDは、校正データからソース条件のスコア分布の離散的な混合を学習し、完了スコアが観測されるにつれてソースについての信念を更新し、他のドローの期待される改善が共有計算価格を下回った場合にサンプリングを停止する。
複数のモデルと言語ペアによる機械翻訳実験全体において、LANDは一致平均計算における固定ベストオブNよりもMetricXスコアが優れている。
逆に、一致した翻訳品質では、LANDは候補世代を約20~40%減らす必要がある。
したがって、アダプティブアロケーションは、計算効率を大幅に改善しつつ、ベスト・オブ・Nの利点を維持するための簡単な方法を提供する。
関連論文リスト
- On the Use of Bagging for Local Intrinsic Dimensionality Estimation [6.621518682026852]
本稿では,近距離(NN)の局所分布を保存するためにサブバッグを用いたアンサンブル手法を提案する。
我々は,LID推定に用いるサンプリングレートとk-NNサイズの選択が,アンサンブルサイズとともに性能に与える影響を理論的および実験的に解析した。
論文 参考訳(メタデータ) (2026-03-25T15:03:25Z) - Evidence-based Distributional Alignment for Large Language Models [58.65469623911573]
LLM分布推定の忠実度とロバスト性を改善する証拠に基づくアライメント手法であるEvi-DAを提案する。
対象国が与えられた場合、Evi-DAは関連するWorld Values Survey項目とその回答分布を検索し、オプション毎に粗いヴェルツェル値シグネチャを予測し、国条件の回答分布を構造化形式で推測する。
論文 参考訳(メタデータ) (2026-03-03T03:34:06Z) - Multi-Distribution Robust Conformal Prediction [15.5300376981723]
複数の異種分布に対して一様に有効である共形予測集合を構築することの問題点について検討する。
まず,有限サンプル・複数分布カバレッジを実現する最大pアグリゲーション方式を提案する。
本稿では,グループ単位での分散的ロバストな最適化,サブポピュレーションシフト,公平性,マルチソース学習との関連性について論じる。
論文 参考訳(メタデータ) (2026-01-06T13:22:13Z) - Leveraging Robust Optimization for LLM Alignment under Distribution Shifts [51.74394601039711]
人間の値に整合した出力を生成するために、大規模言語モデルを操る上で、優先順位アライメント手法はますます重要になっている。
このようなシフトに拘わらず、好みのアライメントを改善する新しい分布対応最適化フレームワークを提案する。
論文 参考訳(メタデータ) (2025-04-08T09:14:38Z) - Distributed Adaptive Nearest Neighbor Classifier: Algorithm and Theory [6.696267547013535]
そこで本研究では,データ駆動基準によりパラメータ選択された,近接する隣人の数がパラメータとなる分散適応型NN分類器を提案する。
有限標本性能を向上する最適チューニングパラメータを探索する際,早期停止規則を提案する。
特に、サブサンプルサイズが十分に大きい場合、提案した分類器がほぼ最適な収束率を達成することを示す。
論文 参考訳(メタデータ) (2021-05-20T14:38:41Z) - Sampling-free Variational Inference for Neural Networks with
Multiplicative Activation Noise [51.080620762639434]
サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。
提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
論文 参考訳(メタデータ) (2021-03-15T16:16:18Z) - Bandit Samplers for Training Graph Neural Networks [63.17765191700203]
グラフ畳み込みネットワーク(GCN)の訓練を高速化するために, ばらつきを低減したサンプリングアルゴリズムが提案されている。
これらのサンプリングアルゴリズムは、グラフ注意ネットワーク(GAT)のような固定重みよりも学習重量を含む、より一般的なグラフニューラルネットワーク(GNN)には適用できない。
論文 参考訳(メタデータ) (2020-06-10T12:48:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。