論文の概要: Noisy-Channel Minimum Bayes Risk Decoding
- arxiv url: http://arxiv.org/abs/2607.05198v1
- Date: Mon, 06 Jul 2026 15:14:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:30.206017
- Title: Noisy-Channel Minimum Bayes Risk Decoding
- Title(参考訳): ノイズチャネル最小ベイズリスクデコード
- Abstract要約: 最小ベイズリスク(MBR)復号化は、最大アフターイ復号化(MAP)よりも堅牢で高品質なテキスト生成をもたらす。
仮説選択は、与えられた擬似参照で条件付けられた期待された実用性スコアを計算する。
仮説-参照-参照-参照-仮説の方向性効果の両方を考慮することが重要である。
- 参考スコア(独自算出の注目度): 58.87954687016989
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Minimum Bayes Risk (MBR) decoding yields more robust and higher-quality text generation than maximum a posteriori (MAP) decoding by selecting hypotheses that maximize expected utility over sampled pseudo-references. However, there exists a discrepancy in the design: hypothesis selection calculates expected utility scores conditioned on given pseudo-references, while commonly used evaluation metrics, e.g., BLEU and COMET, are asymmetric. Therefore, it is important to consider both hypothesis-to-reference and reference-to-hypothesis directional effects. In this study, we introduce a noisy channel decomposition of MBR decoding that naturally incorporates bidirectional effects to account for these asymmetries. We decompose MBR decoding into four interacting components: hypothesis-to-reference likelihood, reference-to-hypothesis likelihood, hypothesis prior, and reference prior. This decomposition provides a unified interpretation of existing MBR variants and enables metric- and task-specific interpretability by isolating the contribution of each channel. Our comprehensive analysis reveals that channel-wise contributions exhibit distinct characteristics across metrics while remaining consistent across tasks, and suggests that appropriate channel weighting may lead to improvements over original MBR decoding.
- Abstract(参考訳): 最小ベイズリスク(MBR)復号法は、サンプリングされた擬似参照よりも期待される有用性を最大化する仮説を選択することにより、最大アフター(MAP)復号法よりも堅牢で高品質なテキスト生成をもたらす。
仮説選択は、与えられた擬似参照で条件付けられた期待された実用性スコアを計算し、一般的に使用される評価指標であるBLEU、COMETは非対称である。
したがって、仮説参照と参照合成の方向性効果の両方を考慮することが重要である。
本研究では,これらの非対称性を考慮に入れた双方向効果を自然に組み込んだMBRデコーディングのノイズチャネル分解を導入する。
MBR復号を4つの相互作用成分に分解する:仮説から推論への確率、参照から仮説への確率、仮説先行、参照先行である。
この分解は、既存のMBR変種を統一的に解釈し、各チャネルの寄与を分離することで、メートル法およびタスク固有の解釈を可能にする。
包括的分析により、チャネルワイドコントリビューションは、タスク間で整合性を維持しながら、メトリクス間で異なる特性を示し、適切なチャネル重み付けが元のMBRデコーディングよりも改善する可能性が示唆された。
関連論文リスト
- Overfitting Mitigation via Singular Value Decomposition in Minimum Bayes Risk Decoding [53.9009465845701]
本稿では,一対のユーティリティ行列をノイズ情報信号としてフレーム化するSVD-MBRを提案する。
実験により、SVD-MBRは復号化に成功し、一般化されたメトリクスの範囲でかなりの利得が得られることが示された。
論文 参考訳(メタデータ) (2026-09-01T12:11:29Z) - Structuring Semantic Embeddings for Principle Evaluation: A Prototype-Guided Contrastive Learning Approach [58.15427952222424]
汎用的なテキスト埋め込みはそのようなタスクに広くデプロイされているが、意味的類似性は意味的に似ているがタスク固有の例を示すことができる。
本稿では,凍結したテキスト埋め込み上に構築された幾何正規化モジュールであるPGCL(Prototype-Guided Contrastive Learning)を紹介する。
論文 参考訳(メタデータ) (2026-08-15T13:19:25Z) - Minimum Bayes Risk Decoding for Error Span Detection in Reference-Free Automatic Machine Translation Evaluation [50.83502171176548]
Maximum a Posteriori (MAP) を用いた最新造形ESD法
生成ESDモデルに最小ベイズリスク(MBR)デコードを適用することでこの問題に対処する。
論文 参考訳(メタデータ) (2025-12-08T13:21:44Z) - Measurement-Constrained Sampling for Text-Prompted Blind Face Restoration [60.45423400845294]
ブラインドフェース修復(BFR)は、極低品質(LQ)入力下での複数の高品質(HQ)再構築に対応できる。
本研究では,異なるテキストプロンプトを条件とした多種多様なLQ顔再構成を可能にするMCS手法を提案する。
論文 参考訳(メタデータ) (2025-11-18T07:44:54Z) - Post-Hoc Split-Point Self-Consistency Verification for Efficient, Unified Quantification of Aleatoric and Epistemic Uncertainty in Deep Learning [5.996056764788456]
不確実性定量化(UQ)は、信頼できる深層学習には不可欠であるが、既存の手法は計算集約的であるか、タスク固有の部分的な見積もりのみを提供する。
本研究では,事前訓練したモデルの変更や再訓練を伴わずに,アレタリックおよびてんかんの不確実性を共同でキャプチャするポストホック・シングルフォワード・パス・フレームワークを提案する。
提案手法は,EmphSplit-Point Analysis (SPA) を用いて,予測残差を上下サブセットに分解し,各側でEmphMean Absolute Residuals (MAR) を演算する。
論文 参考訳(メタデータ) (2025-09-16T17:16:01Z) - Diversity Explains Inference Scaling Laws: Through a Case Study of Minimum Bayes Risk Decoding [32.02732402635305]
推論手法は大規模言語モデル(LLM)の性能を引き出す上で重要な役割を果たす
現在、LLMは生成した複数のサンプルを利用した推論手法を使用しており、最小ベイズリスク(MBR)復号から導出することができる。
従来,MBR復号化による生成性能の向上を実証的に検討してきた。
我々は、バイアス-多様性分解の観点から、MBR復号の新たな理論的解釈を提供する。
論文 参考訳(メタデータ) (2024-10-19T07:32:10Z) - Unveiling the Power of Source: Source-based Minimum Bayes Risk Decoding for Neural Machine Translation [30.323103270892734]
最小ベイズリスク(MBR)復号法は、最も期待されているユーティリティで仮説を求める方法を提供する。
以上の結果から, sMBRはNMT復号法として有望なアプローチであることが示唆された。
論文 参考訳(メタデータ) (2024-06-17T15:13:52Z) - On the True Distribution Approximation of Minimum Bayes-Risk Decoding [3.409873726183299]
最小ベイズリスク(MBR)復号化はテキスト生成において新たな注目を集めている。
従来の研究では,サンプリング法によって性能が変化することが報告されている。
本研究は異常検出を用いて近似の度合いを計測する。
論文 参考訳(メタデータ) (2024-03-31T17:47:22Z) - Machine Reading Comprehension using Case-based Reasoning [92.51061570746077]
本稿では,機械読解における解答抽出の正確かつ解釈可能な手法を提案する。
本手法は,類似した質問に対する文脈的回答が相互に意味的類似性を共有するという仮説に基づいている。
論文 参考訳(メタデータ) (2023-05-24T07:09:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。