論文の概要: Quit While You're Ahead: Quit for Efficient Candidate Generation in Machine Translation Reranking
- arxiv url: http://arxiv.org/abs/2609.00588v2
- Date: Wed, 02 Sep 2026 07:46:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:17.498897
- Title: Quit While You're Ahead: Quit for Efficient Candidate Generation in Machine Translation Reranking
- Title(参考訳): 機械翻訳における効率的な候補生成のためのクイット
- Authors: Guangyu Chen, Boxuan Lyu, Hidetaka Kamigaito, Kotaro Funakoshi, Manabu Okumura,
- Abstract要約: リグレード法は、候補仮説の集合から出力を選択するために、現代のニューラルマシン翻訳(NMT)で広く用いられている。
既存の加速法では、MBRの復号化と復号化のみを目標とし、QEの復号化と候補生成は未変更のままである。
我々は、世代全体の新しいアーリーストッピング戦略であるQuitを提案する。
- 参考スコア(独自算出の注目度): 45.725526380450795
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reranking methods, such as Minimum Bayes Risk (MBR) decoding and Quality Estimation (QE) reranking, are widely used in modern neural machine translation (NMT) to select an output from a set of candidate hypotheses. However, the performance gains come at the cost of high inference latency. Existing acceleration methods target MBR decoding and reduce only reranking computation, leaving QE reranking unaddressed and candidate generation---which can be the larger computational bottleneck---largely untouched. In this work, we propose Quit (Quantifying Uncertainty for Incremental Termination), a novel early-stopping strategy for the entire generation--reranking pipeline. Viewing candidate generation as a sequential decision under uncertainty, Quit incrementally generates and reranks candidates, stopping when the highest estimated quality in the candidate set stabilizes. Comprehensive experiments on three NMT models across 19 language pairs show that Quit yields end-to-end speedups of $1.47$--$2.66\times$ for MBR and $3.43$--$4.12\times$ for QE reranking while preserving translation quality within prespecified equivalence margins.
- Abstract(参考訳): 最小ベイズリスク(MBR)復号法や品質推定(QE)復号法といった復号法は、現代のニューラルネットワーク翻訳(NMT)において、候補仮説の集合から出力を選択するために広く用いられている。
しかし、パフォーマンスの向上は、高い推論レイテンシーのコストが伴う。
既存の加速法は、MBRの復号化を目標とし、再次計算のみを減らし、QEは未適応および候補生成に再配置する。
そこで本研究では,第1世代パイプライン全体の早期停止戦略であるQuit(Quantifying Uncertainty for Incremental Termination)を提案する。
不確実性の下で、候補生成を逐次決定と見なすと、Quitは、候補を段階的に生成し、再帰し、候補セットの最も高い推定品質が安定すると停止する。
19言語対にわたる3つのNMTモデルの総合的な実験により、QuitはMBRが1.47$--2.66\times$、QEが3.43$--4.12\times$のエンドツーエンドのスピードアップを得られる。
関連論文リスト
- ResiSpec: Enhancing Multi-Candidate Speculative Sampling via Residual Distribution Shaping [79.1905186547363]
ResiSpecは、検証中に提案の配布を戦略的に改革するフレームワークである。
候補の偏光を防止し、最先端のマルチ候補法よりも最大1.92$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-08-25T11:25:55Z) - Ripple-Pivot Search: Active Parallel Decoding for Diffusion Large Language Models [66.32132912853372]
Diffusion Large Language Models (dLLMs) は自己回帰型言語モデルの競合代替として登場した。
本研究では,中間エントロピー位置を有望な候補ピボットとして求める訓練自由復号法であるRipple-Pivot Search (RPS)を提案する。
RPSは、生成品質を維持しながら標準デコーダの4-10$times$wall-clockスピードアップを実現し、以前のルックアヘッドベースラインの精度を最大5.49%向上させる。
論文 参考訳(メタデータ) (2026-08-12T07:32:29Z) - Agreement-Constrained Probabilistic Minimum Bayes Risk Decoding [51.82883249233765]
本稿では,知識蒸留モデルを利用してスコア行列の完成を導出する,合意制約付きPMBR復号法を提案する。
我々のAC-PMBR復号法は,行列補完の近似誤差を最大3倍に改善し,PMBR復号法と比較して高い翻訳品質を実現した。
論文 参考訳(メタデータ) (2025-12-01T06:16:47Z) - Unveiling the Power of Source: Source-based Minimum Bayes Risk Decoding for Neural Machine Translation [30.323103270892734]
最小ベイズリスク(MBR)復号法は、最も期待されているユーティリティで仮説を求める方法を提供する。
以上の結果から, sMBRはNMT復号法として有望なアプローチであることが示唆された。
論文 参考訳(メタデータ) (2024-06-17T15:13:52Z) - Linear-time Minimum Bayes Risk Decoding with Reference Aggregation [52.1701152610258]
最小ベイズリスク(MBR、Minimum Bayes Risk)は、機械翻訳の品質向上を図ったテキスト生成技術である。
これは2次複雑性を持つ実用計量のペアワイズ計算を必要とする。
本稿では,集約された参照表現に対して計算したスコアを用いて,ペアワイズメトリックスコアを近似する。
論文 参考訳(メタデータ) (2024-02-06T18:59:30Z) - RMBR: A Regularized Minimum Bayes Risk Reranking Framework for Machine
Translation [23.92144747868981]
ビームサーチは、ニューラルネットワーク翻訳(NMT)の最も広く使われている復号法である
実際には、n候補のうち、最もログ確率の高いトップ1候補が好まれる候補として選択される。
しかし、このトップ1候補は、n-bestリストの中では最高の全体的な翻訳ではないかもしれない。
論文 参考訳(メタデータ) (2022-03-01T03:12:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。