論文の概要: Efficient Minimum Bayes Risk Decoding using Low-Rank Matrix Completion Algorithms

• arxiv url: http://arxiv.org/abs/2406.02832v1
• Date: Wed, 5 Jun 2024 00:54:03 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 22:26:58.701484
• Title: Efficient Minimum Bayes Risk Decoding using Low-Rank Matrix Completion Algorithms
• Title（参考訳）: 低ランク行列補完アルゴリズムを用いた効率よい最小ベイズリスク復号法
• Authors: Firas Trabelsi, David Vilar, Mara Finkelstein, Markus Freitag,
• Abstract要約: 行列補完問題として最小ベイズリスク(MBR)デコーディングを定式化する。 我々は、スコアのランダムな部分集合のみを計算し、行列の欠落したエントリを効率的に回収することでこれを活用する。 機械翻訳タスクに対する実験結果から,提案手法は1/16の有効量計算を必要とすることが示された。
• 参考スコア（独自算出の注目度）: 19.543681023903456
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Minimum Bayes Risk (MBR) decoding is a powerful decoding strategy widely used for text generation tasks, but its quadratic computational complexity limits its practical application. This paper presents a novel approach for approximating MBR decoding using matrix completion techniques, focusing on the task of machine translation. We formulate MBR decoding as a matrix completion problem, where the utility metric scores between candidate hypotheses and pseudo-reference translations form a low-rank matrix. First, we empirically show that the scores matrices indeed have a low-rank structure. Then, we exploit this by only computing a random subset of the scores and efficiently recover the missing entries in the matrix by applying the Alternating Least Squares (ALS) algorithm, thereby enabling a fast approximation of the MBR decoding process. Our experimental results on machine translation tasks demonstrate that the proposed method requires 1/16 utility metric computations compared to vanilla MBR decoding while achieving equal translation quality measured by COMET22 on the WMT22 dataset (en<>de and en<>ru). We also benchmark our method against other approximation methods and we show gains in quality when comparing to them.
• Abstract（参考訳）: 最小ベイズリスク(MBR)復号法は、テキスト生成タスクに広く用いられている強力な復号法であるが、その2次計算複雑性は実用的応用を制限している。 本稿では,機械翻訳のタスクに着目し,行列補完手法を用いてMBRデコーディングを近似する手法を提案する。 MBR復号を行列完備問題として定式化し、候補仮説と擬似参照変換の間の有効度スコアを低ランク行列とする。 まず、スコア行列が実際に低ランク構造を持っていることを実証的に示す。 そこで我々は,この手法を,スコアのランダムな部分集合のみを計算し,Alternating Least Squares (ALS) アルゴリズムを適用して,行列内の欠落成分を効率よく回収することにより,MBR復号プロセスの高速な近似を可能にする。 WMT22データセット(en<>de, en<>ru)上でCOMET22が測定した等価翻訳品質を実現しつつ, 機械翻訳タスクにおいて, 提案手法はバニラMBR復号よりも1/16効用メトリック計算を必要とすることを示した。 また,本手法を他の近似法と比較し,それと比較した場合の品質向上を示す。

関連論文リスト

• Centroid-Based Efficient Minimum Bayes Risk Decoding [38.04403087991526]
  最小ベイズリスク(MBR)復号化はCOMETを用いて最先端の翻訳性能を達成した。 MBR復号法は、翻訳仮説とすべての参照翻訳の間の期待スコアを計算するため、2次時間を必要とする。 提案手法は特徴空間内の参照翻訳をクラスタリングし,各クラスタのセントロイドを用いてスコアを算出する。
  論文  参考訳（メタデータ） (2024-02-17T05:15:12Z)
• Linear-time Minimum Bayes Risk Decoding with Reference Aggregation [52.1701152610258]
  最小ベイズリスク(MBR、Minimum Bayes Risk)は、機械翻訳の品質向上を図ったテキスト生成技術である。 これは2次複雑性を持つ実用計量のペアワイズ計算を必要とする。 本稿では,集約された参照表現に対して計算したスコアを用いて,ペアワイズメトリックスコアを近似する。
  論文  参考訳（メタデータ） (2024-02-06T18:59:30Z)
• Hyperparameter-Free Approach for Faster Minimum Bayes Risk Decoding [5.639904484784127]
  最小ベイズリスクデコーディング(MBR)は、幅広いテキスト生成タスクに対するビームサーチデコーディングの強力な代替手段である。 MBRは、目的を計算するのに膨大な時間を必要とする。 CBP(Confidence-based pruning)は、最近機械翻訳タスクにおける推論時間を削減するために提案されている。
  論文  参考訳（メタデータ） (2024-01-05T11:02:08Z)
• Faster Minimum Bayes Risk Decoding with Confidence-based Pruning [8.709382540743391]
  本稿では,最小ベイズリスク(MBR)復号化アルゴリズムについて述べる。 提案手法では, サンプルが少なく, 実用機能への呼び出し回数を標準のMBRに比べて大幅に削減する。 実用・評価指標として chrF++ と COMET を用いた3つの言語対の実験において,本手法の有効性を実証した。
  論文  参考訳（メタデータ） (2023-11-25T03:38:14Z)
• Spectral Entry-wise Matrix Estimation for Low-Rank Reinforcement Learning [53.445068584013896]
  低ランク構造を持つ強化学習(RL)における行列推定問題について検討した。 低ランク帯では、回収される行列は期待される腕の報酬を指定し、低ランクマルコフ決定プロセス(MDP)では、例えばMDPの遷移カーネルを特徴付ける。 簡単なスペクトルベースの行列推定手法は,行列の特異部分空間を効率よく復元し,ほぼ最小の入力誤差を示すことを示す。
  論文  参考訳（メタデータ） (2023-10-10T17:06:41Z)
• Learning the Positions in CountSketch [49.57951567374372]
  本稿では,まずランダムなスケッチ行列に乗じてデータを圧縮し,最適化問題を高速に解くスケッチアルゴリズムについて検討する。 本研究では,ゼロでないエントリの位置を最適化する学習ベースアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-06-11T07:28:35Z)
• Machine Learning-Aided Efficient Decoding of Reed-Muller Subcodes [59.55193427277134]
  Reed-Muller (RM) 符号は、一般的なバイナリインプットメモリレス対称チャネルの容量を達成する。 RM符号は制限されたレートのみを許容する。 効率的なデコーダは、RM符号に対して有限長で利用可能である。
  論文  参考訳（メタデータ） (2023-01-16T04:11:14Z)
• Asymmetric Scalable Cross-modal Hashing [51.309905690367835]
  クロスモーダルハッシュは、大規模なマルチメディア検索問題を解決する方法として成功している。 これらの問題に対処する新しい非対称スケーラブルクロスモーダルハッシュ(ASCMH)を提案する。 我々のASCMHは、最先端のクロスモーダルハッシュ法よりも精度と効率の点で優れています。
  論文  参考訳（メタデータ） (2022-07-26T04:38:47Z)
• Rapid Person Re-Identification via Sub-space Consistency Regularization [51.76876061721556]
  Person Re-Identification (ReID) は、歩行者を分離したカメラで識別する。 実値特徴記述子を用いた既存のReID法は精度が高いが、ユークリッド距離計算が遅いため効率が低い。 本稿では,ReID 処理を 0.25 倍高速化するサブスペース一貫性規則化 (SCR) アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-07-13T02:44:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。