論文の概要: When is more search useful? An Empirical Study of Search Utility in Quality-Aware Decoding for Machine Translation

• arxiv url: http://arxiv.org/abs/2610.32679v1
• Date: Fri, 23 Oct 2026 14:15:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.543214
• Title: When is more search useful? An Empirical Study of Search Utility in Quality-Aware Decoding for Machine Translation
• Title（参考訳）: 検索はいつ有用か? : 機械翻訳における品質認識デコードにおける検索ユーティリティの実証的研究
• Abstract要約: QAD(Quality-Aware Decoding)は、テスト時間スケーリングによる機械翻訳を改善し、複数の候補翻訳を生成し、品質認識デコーダで最終的な出力を選択する。 本研究は, 総スケーリングゲイン, より大きい候補プールから文が得られる品質, 限界スケーリングゲイン, 追加候補のバッチを生成することで得られる期待ゲイン, サンプリング飽和点, 総スケーリングゲインのほとんどを実現するために必要な候補予算の3つの量を用いて検索ユーティリティについて検討する。
• 参考スコア（独自算出の注目度）: 44.43067553143576
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Quality-Aware Decoding (QAD) improves machine translation through test-time scaling, generating multiple candidate translations and selecting the final output with a quality-aware decoder. Usually the same candidate budget N is spent on every source sentence, assuming that all inputs require the same amount of search. We show that this assumption does not hold and that the quality gain obtained from additional candidates varies across sentences. We study search utility through three quantities: total scaling gain, how much quality a sentence can gain from a much larger candidate pool; marginal scaling gain, the expected gain from generating one additional batch of candidates; and the sampling saturation point, the candidate budget required to realize most of the total scaling gain. We investigate two sources of information for predicting these quantities: signals available before candidate-set expansion, and statistics computed from the candidate pool accumulated during search. We find that sentence-level signals correlate with total scaling gain but are less informative about the sampling saturation point. In contrast, properties of the current candidate pool provide useful signals of marginal scaling gain. Finally, we show that these signals can identify sentences that obtain larger gains when additional search is selectively applied.
• Abstract（参考訳）: QAD(Quality-Aware Decoding)は、テスト時間スケーリングによる機械翻訳を改善し、複数の候補翻訳を生成し、品質認識デコーダで最終的な出力を選択する。 通常、すべての入力が同じ量の検索を必要とすると仮定して、同じ候補予算Nが全てのソース文に費やされる。 この仮定は成立せず、追加候補から得られる品質向上が文によって異なることを示す。 本研究は, 総スケーリングゲイン, より大きい候補プールから文が得られる品質, 限界スケーリングゲイン, 追加候補のバッチ生成による期待ゲイン, サンプリング飽和点, 総スケーリングゲインのほとんどを実現するために必要な候補予算の3つの量を用いて検索ユーティリティについて検討する。 本稿では,これらの量を予測するための2つの情報源について検討する。すなわち,候補セット展開前に利用可能な信号と,探索中に蓄積した候補プールから計算した統計量である。 文レベルの信号は総スケーリングゲインと相関するが,サンプリング飽和点についてはあまり情報がない。 対照的に、現在の候補プールの特性は、限界スケーリングゲインの有用な信号を提供する。 最後に、これらの信号は、追加の探索を選択的に適用した場合により大きなゲインを得る文を識別できることを示す。

関連論文リスト

• Architectural Sampling: Test-Time Scaling via Computational Diversity in Frozen Vision-Language Models [25.36070624867203]
  テストタイムのスケーリングは、凍結したモデルから複数のレスポンスをサンプリングすることで、より良い回答を求めることが多い。 本稿では,異なるフォワード計算によって候補を生成する学習不要な手法であるアーキテクチャサンプリングを紹介する。
  論文  参考訳（メタデータ） (2026-10-01T13:44:11Z)
• Leveraging Inference-Time Compute for Diffusion Models via Global Scheduling of Denoising Trajectories [16.711750527598827]
  拡散モデルは、純雑音をターゲット分布からのドローに変換する一連のノイズ低減ステップであるデノイング軌跡をトラバースしてサンプルを生成する。 これによってリソース割り当ての疑問が持ち上がります – 探索の作業は、denoising trajectoryのステップにまたがってどのように分散されるべきなのでしょうか? ステップサイズで先行する順に、ステップにおいて$K$の候補を評価することで期待される利益が、内因性、ステップ固有の感度パラメータに、普遍的なサンプルサイズファクターの倍に分解されることを示す。 実験により,提案したアロケーションは,機能評価を20～50%減らして,一様ベンチマークの品質を達成できることが示された。
  論文  参考訳（メタデータ） (2026-09-19T08:10:33Z)
• Entropy-informed Decoding: Adaptive Information-Driven Branching [5.954754354938324]
  大規模言語モデル(LLM)は、優れた生成性能を達成するが、その出力品質はデコード戦略に依存している。 本稿では,モデルの不確実性に基づいて適応的にアロケートするモデルに依存しないデコードフレームワークであるEntropy-informed Decoding (EDEN)を紹介する。 EDENは、既存のデコード戦略よりも出力品質を一貫して改善し、固定幅ビームサーチよりも精度と拡張のトレードオフを向上する。
  論文  参考訳（メタデータ） (2026-05-10T20:44:47Z)
• $S^3$: Stratified Scaling Search for Test-Time in Diffusion Language Models [10.157422365382933]
  テスト時間スケーリングは、より多くの推論計算が与えられたとき、固定拡散言語モデル(DLM)がより良い出力を生成できるかどうかを調べる。 S3$ (Stratified Scaling Search) は,デノナイズ処理中に計算を再配置することで生成を改善するバリデーション誘導探索法である。 LLaDA-8B-Instruct on MATH-500, GSM8K, ARC-Challenge, TruthfulQA による実験では、S3$ はベンチマーク全体のパフォーマンスを一貫して改善している。
  論文  参考訳（メタデータ） (2026-04-07T00:51:06Z)
• Scaling Agentic Verifier for Competitive Coding [66.11758166379092]
  大規模言語モデル(LLM)は強力なコーディング能力を示しているが、1回の試行で競合するプログラミング問題を正しく解くのに苦戦している。 実行ベースの再ランク付けは、有望なテスト時間スケーリング戦略を提供するが、既存のメソッドは、難しいテストケースの生成または非効率的なランダム入力サンプリングによって制約される。 本稿では,プログラムの動作を積極的に推論し,高い差別性のあるテスト入力を検索するエージェント検証手法を提案する。
  論文  参考訳（メタデータ） (2026-02-04T06:30:40Z)
• Add-One-In: Incremental Sample Selection for Large Language Models via a Choice-Based Greedy Paradigm [50.492124556982674]
  本稿では,新しい選択型サンプル選択フレームワークを提案する。 個々のサンプル品質の評価から、異なるサンプルのコントリビューション値の比較へと焦点をシフトする。 われわれのアプローチをより大きな医療データセットで検証し、現実の応用における実用性を強調した。
  論文  参考訳（メタデータ） (2025-03-04T07:32:41Z)
• Balancing Diversity and Risk in LLM Sampling: How to Select Your Method and Parameter for Open-Ended Text Generation [60.493180081319785]
  本稿では,各復号ステップにおける多様性とリスクのトレードオフを考慮し,トラクションサンプリング手法のキャパシティを推定する体系的手法を提案する。 本研究は,既存のトラクションサンプリング手法を総合的に比較し,パラメータ選択のための実用的なユーザガイドとして機能する。
  論文  参考訳（メタデータ） (2024-08-24T14:14:32Z)
• Improving Screening Processes via Calibrated Subset Selection [35.952153033163576]
  私たちはCalibrated Subset Selection (CSS) と呼ばれる分布自由スクリーニングアルゴリズムを開発した。 CSSは、期待されている数の適格候補を含む候補のほぼ最適のショートリストを見つける。 米国国勢調査調査データの実験は、我々の理論結果を検証し、我々のアルゴリズムによって提供されるショートリストが、いくつかの競争基盤線によって提供されるものよりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-02-02T17:15:44Z)
• A Systematic Characterization of Sampling Algorithms for Open-ended Language Generation [71.31905141672529]
  本稿では,自己回帰型言語モデルに広く採用されている祖先サンプリングアルゴリズムについて検討する。 エントロピー低減, 秩序保存, 斜面保全の3つの重要な特性を同定した。 これらの特性を満たすサンプリングアルゴリズムのセットが,既存のサンプリングアルゴリズムと同等に動作することがわかった。
  論文  参考訳（メタデータ） (2020-09-15T17:28:42Z)
• How to Probe Sentence Embeddings in Low-Resource Languages: On Structural Design Choices for Probing Task Evaluation [82.96358326053115]
  構造設計選択に対する探索作業結果の感度について検討する。 我々は、英語で識別する「安定な領域」にある設計選択を多言語で構成した埋め込みを探索する。 私たちは英語の結果が他の言語に移行しないことに気付きます。
  論文  参考訳（メタデータ） (2020-06-16T12:37:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。