論文の概要: Quit While You're Ahead: Quit for Efficient Candidate Generation in Machine Translation Reranking
- arxiv url: http://arxiv.org/abs/2609.00588v3
- Date: Thu, 10 Sep 2026 02:37:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 19:20:15.661368
- Title: Quit While You're Ahead: Quit for Efficient Candidate Generation in Machine Translation Reranking
- Title(参考訳): 機械翻訳における効率的な候補生成のためのクイット
- Abstract要約: Quitは、世代全体の新しい戦略である。
インクリメンタルに候補を生成してリランクし、最高のスコアが安定すると停止する。
エンド・ツー・エンドのスピードアップはデコードで$1.47$--2.66times$、QEの$3.43$--$4.12times$で、ほぼ全ての外部品質指標の翻訳品質を維持している。
- 参考スコア(独自算出の注目度): 45.725526380450795
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reranking methods, such as Minimum Bayes Risk (MBR) decoding and Quality Estimation (QE) reranking, have been widely used in modern neural machine translation (NMT) to select an output from a set of candidate hypotheses. However, the performance gains come at the cost of high inference latency. Existing acceleration methods target MBR decoding and reduce only the reranking computation, leaving QE reranking unaddressed and candidate generation---which can be the larger computational bottleneck---largely untouched. In this work, we propose Quit (Quantifying Uncertainty for Incremental Termination), a novel early-stopping strategy for the entire generation--reranking pipeline. Quit treats candidate generation as a sequential decision-making process under uncertainty. It incrementally generates and reranks candidates, stopping when the best reranking score stabilizes. Comprehensive experiments with three NMT models across 19 language pairs show that Quit achieves end-to-end speedups of $1.47$--$2.66\times$ for MBR decoding and $3.43$--$4.12\times$ for QE reranking while preserving translation quality for nearly all external quality metrics.
- Abstract(参考訳): 最小ベイズリスク(MBR)復号法や品質推定(QE)復号法といった復号法は、現代のニューラルネットワーク翻訳(NMT)において、候補仮説の集合から出力を選択するために広く用いられている。
しかし、パフォーマンスの向上は、高い推論レイテンシーのコストが伴う。
既存の加速法は、MBRの復号化を目標とし、再階計算のみを減らし、QEは未適応および候補生成に再配置する。
そこで本研究では,第1世代パイプライン全体の早期停止戦略であるQuit(Quantifying Uncertainty for Incremental Termination)を提案する。
Quitは、不確実性の下で、候補生成をシーケンシャルな意思決定プロセスとして扱う。
インクリメンタルに候補を生成してリランクし、最高のスコアが安定すると停止する。
19の言語対にわたる3つのNMTモデルによる総合的な実験によると、QuitはMBRデコードで1.47$--2.66\times$、QEリランクで3.43$--4.12\times$のエンドツーエンドのスピードアップを実現し、ほとんど全ての外部品質指標で翻訳品質を保っている。
関連論文リスト
- Sampling headroom is not selection gain: a compute-value audit of test-time scaling for video world models [34.20907662027954]
テストタイムスケーリングは、より多くの計算がより良い候補を生成する場合にのみ生成を改善することができ、システムはそれらを確実に識別できる。
我々は,余分なサンプリングが機会を生み出すかどうかを問う連続的なフレームワークであるCompute-Value Audit(CVA)を紹介する。
192の物理IQのシーンでは、プールを4から16の候補に拡張すると、オラクルの品質は+9.23 IQ向上する。
12のアダプティブ・ディープス・ポリシーは、均一な計算よりも優れておらず、測定されたエントリー料金の42-69%しか回復しない。
論文 参考訳(メタデータ) (2026-09-06T06:11:15Z) - ResiSpec: Enhancing Multi-Candidate Speculative Sampling via Residual Distribution Shaping [79.1905186547363]
ResiSpecは、検証中に提案の配布を戦略的に改革するフレームワークである。
候補の偏光を防止し、最先端のマルチ候補法よりも最大1.92$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-08-25T11:25:55Z) - Test-Time Scaling in the Wild: Why Exploitation, Not Exploration, Is the Bottleneck [1.4991111518581999]
テストタイムスケーリング(TTS)は、追加の推論計算を使用することで、言語モデルの出力を改善する。
5世代ベンチマークで5つのTSファミリーの計算正規化比較を行った。
論文 参考訳(メタデータ) (2026-08-19T13:59:53Z) - Ripple-Pivot Search: Active Parallel Decoding for Diffusion Large Language Models [66.32132912853372]
Diffusion Large Language Models (dLLMs) は自己回帰型言語モデルの競合代替として登場した。
本研究では,中間エントロピー位置を有望な候補ピボットとして求める訓練自由復号法であるRipple-Pivot Search (RPS)を提案する。
RPSは、生成品質を維持しながら標準デコーダの4-10$times$wall-clockスピードアップを実現し、以前のルックアヘッドベースラインの精度を最大5.49%向上させる。
論文 参考訳(メタデータ) (2026-08-12T07:32:29Z) - Fast-Decoding Diffusion Language Models via Progress-Aware Confidence Schedules [25.251683954675958]
トレーニング不要でモデルに依存しない早期終了アルゴリズムであるSchEDを提案する。
SchEDは完全なロジットマージンを集約し、スムーズで進捗に依存した信頼しきい値が満たされるとデコーディングを停止する。
我々は、SchEDが堅牢であり、信頼に基づく早期退避法よりも明らかに優れていることを示す。
論文 参考訳(メタデータ) (2025-12-02T16:01:08Z) - Agreement-Constrained Probabilistic Minimum Bayes Risk Decoding [51.82883249233765]
本稿では,知識蒸留モデルを利用してスコア行列の完成を導出する,合意制約付きPMBR復号法を提案する。
我々のAC-PMBR復号法は,行列補完の近似誤差を最大3倍に改善し,PMBR復号法と比較して高い翻訳品質を実現した。
論文 参考訳(メタデータ) (2025-12-01T06:16:47Z) - Unveiling the Power of Source: Source-based Minimum Bayes Risk Decoding for Neural Machine Translation [30.323103270892734]
最小ベイズリスク(MBR)復号法は、最も期待されているユーティリティで仮説を求める方法を提供する。
以上の結果から, sMBRはNMT復号法として有望なアプローチであることが示唆された。
論文 参考訳(メタデータ) (2024-06-17T15:13:52Z) - Linear-time Minimum Bayes Risk Decoding with Reference Aggregation [52.1701152610258]
最小ベイズリスク(MBR、Minimum Bayes Risk)は、機械翻訳の品質向上を図ったテキスト生成技術である。
これは2次複雑性を持つ実用計量のペアワイズ計算を必要とする。
本稿では,集約された参照表現に対して計算したスコアを用いて,ペアワイズメトリックスコアを近似する。
論文 参考訳(メタデータ) (2024-02-06T18:59:30Z) - Quality-Aware Translation Models: Efficient Generation and Quality Estimation in a Single Model [77.19693792957614]
そこで我々は,ニューラルネットワーク翻訳(NMT)モデルを用いて,その品質を学習し,その品質を推定する手法を提案する。
我々は、単一パスの復号化の効率性よりも、品質向上や品質改善のアプローチよりも優れた品質向上を得る。
論文 参考訳(メタデータ) (2023-10-10T15:33:51Z) - RMBR: A Regularized Minimum Bayes Risk Reranking Framework for Machine
Translation [23.92144747868981]
ビームサーチは、ニューラルネットワーク翻訳(NMT)の最も広く使われている復号法である
実際には、n候補のうち、最もログ確率の高いトップ1候補が好まれる候補として選択される。
しかし、このトップ1候補は、n-bestリストの中では最高の全体的な翻訳ではないかもしれない。
論文 参考訳(メタデータ) (2022-03-01T03:12:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。