論文の概要: Rate-Resolved Text Evaluation with Masked Diffusion Language Models
- arxiv url: http://arxiv.org/abs/2610.15667v1
- Date: Sun, 11 Oct 2026 14:47:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-19 17:17:00.567418
- Title: Rate-Resolved Text Evaluation with Masked Diffusion Language Models
- Title(参考訳): マスケ拡散言語モデルを用いた速度分解テキストの評価
- Abstract要約: 本稿では,マスク付き言語モデルのマスキング率を診断軸に変換するテキスト評価手法を提案する。
SummEvalでは、このレート構造を保存することで相補的な信号が得られる。
WMT MQM zh-enでは、ラウンドトリップマスク・アンド・リコンストラクチャ・プロービングは調整可能な局在曲線を生成する。
- 参考スコア(独自算出の注目度): 30.24647499748397
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A single evaluation score can rank generation systems but rarely reveals what failed. We propose rate-resolved text evaluation, which turns the masking rate of masked diffusion language models into a diagnostic axis. By reconstructing text under different fractions of masked tokens, one diffusion score becomes a vector of band-conditioned scores that reflect reconstruction difficulty at varying levels of visible context. On SummEval, preserving this rate structure yields complementary signal: the best masking-rate band improves fusion with autoregressive likelihood over a collapsed diffusion scalar, survives a sample-shuffle control that breaks rate ordering, and adds residual signal to a fixed prompted judge. A second diffusion model reproduces the effect more weakly. On WMT MQM zh-en, roundtrip mask-and-reconstruct probing produces a tunable localization curve in which ranking-oriented AUROC and span-detection F1 peak at different masking rates. Factuality benchmarks bound the interpretation: band semantics are model- and task-dependent, so each application requires empirical validation.
- Abstract(参考訳): 単一の評価スコアは生成システムにランク付けすることができるが、失敗したことを明らかにすることは滅多にない。
マスク付き拡散言語モデルのマスキング速度を診断軸に変換する。
マスク付きトークンの異なる部分でテキストを再構成することにより、1つの拡散スコアは、様々なレベルの可視的コンテキストにおける再構成困難を反映したバンド条件スコアのベクトルとなる。
最高のマスキングレートバンドは、崩壊した拡散スカラー上の自己回帰可能性による融合を改善し、レート順序を破るサンプルシャッフル制御を生き残り、固定された判定値に残留信号を追加する。
第2拡散モデルは効果をより弱く再現する。
WMT MQM zh-enでは、ラウンドトリップマスク・アンド・リコンストラクト探索により、ランク指向のAUROCとスパン検出F1が異なるマスキング速度でピークとなるような調整可能な局所化曲線が生成される。
バンドセマンティクスはモデルに依存し、タスクに依存しているため、それぞれのアプリケーションは実証的な検証を必要とする。
関連論文リスト
- Simplex Relaxation for Discrete Diffusion [58.33696160279345]
Simplax(Simplax)はディリクレ(Dirichlet)のカテゴリー拡張で、それぞれが崩壊したカテゴリ状態と補助的単純度値変数を結合する。
Simplaxは生成パープレキシティーを改善する。-無条件のOpenWebText生成におけるエントロピートレードオフ。
論文 参考訳(メタデータ) (2026-08-11T07:58:17Z) - Attention-Discounted Adaptive Sampler for Masked Diffusion Language Models [59.51249894128724]
マスク付き拡散言語モデルは、反復を識別するごとに複数のトークンを明らかにすることで推論ステップを削減することができる。
パラレルマスク拡散復号法のためのトレーニング不要な復号法であるADASを提案する。
論文 参考訳(メタデータ) (2026-06-09T13:17:27Z) - NAVIRA: Decoupled Stochastic Remasking for Masked Diffusion Language Models [0.0]
PRISMはトークンレベルの品質スコアを学習し、信頼できないトークンを再マスクすることでこの問題に対処する。
この2つの操作を分離する推論時間復号法であるNAVIRAを提案する。
温度制御されたリメイキングは、同じ位置の繰り返し補正を減らす。
論文 参考訳(メタデータ) (2026-06-04T11:24:47Z) - Masked Diffusion Modeling for Anomaly Detection [20.76040356148893]
そこで我々は,分類型,混合型,離散シーケンスデータに対するMasked Diffusion for Anomaly Detection (MaskDiff-AD)を提案する。
MaskDiff-ADはランダムにマスクされた座標の再構成が困難であることから異常スコアを構成する。
実験により、MaskDiff-ADは古典的、拡散ベース、および最近の表/テキスト異常検出ベースラインと競合する性能を示した。
論文 参考訳(メタデータ) (2026-05-28T14:59:17Z) - Uniform Diffusion Models Revisited: Leave-One-Out Denoiser and Absorbing State Reformulation [72.05592785529404]
UDMの標準プラグインブリッジパラメタライゼーションは,後側頭蓋に最適化されないことを示す。
また,UDM関節法をマスク拡散様サンプリング操作に分解して保存する均一拡散の吸収状態再構成も導入した。
論文 参考訳(メタデータ) (2026-05-21T17:27:19Z) - Discrete Stochastic Localization for Non-autoregressive Generation [17.56505846228918]
エンハンチングだけでMDLM/ReMDMサンプリングのステップ効率を大幅に改善できることを示す。
OpenWebTextでは、textsc fine-tuningはMDLM+ReMDMを上回り、低ステップの予算でMAUVEが大きな利益を得る。
分析の結果、自己補正と不確実性の校正が改善され、リマキングは計算効率が著しく向上した。
論文 参考訳(メタデータ) (2026-02-18T04:05:40Z) - Learning Unmasking Policies for Diffusion Language Models [33.44995119635116]
言語モデル(dLLM)は、多くのタスクにおいて、自己回帰的な処理の下流のパフォーマンスにマッチする。
特別なマスクトークンで満たされたバッファが、モデルの語彙からサンプリングされたトークンに徐々に置き換えられる。
本研究では,強化学習を用いたサンプリング手順の訓練を提案する。
論文 参考訳(メタデータ) (2025-12-09T20:44:33Z) - Continuously Augmented Discrete Diffusion model for Categorical Generative Modeling [87.34677262370924]
標準離散拡散モデルは、吸収[MASK]トークンにそれらをマッピングすることで、すべての観測されていない状態を同一に扱う。
これは'インフォメーション・ヴォイド'を生成します。そこでは、偽のトークンから推測できるセマンティック情報は、デノイングステップの間に失われます。
連続的拡張離散拡散(Continuously Augmented Discrete Diffusion)は、連続的な潜在空間における対拡散で離散状態空間を拡大するフレームワークである。
論文 参考訳(メタデータ) (2025-10-01T18:00:56Z) - Autoregressive Speech Synthesis without Vector Quantization [135.4776759536272]
We present MELLE, a novel continuous-valued token based language modeling approach for text-to-speech synthesis (TTS)。
MELLEはテキスト条件から直接連続メル-スペクトログラムフレームを自動回帰生成する。
MELLEは、サンプリングベクトル量子化符号の固有の欠陥を回避し、ロバスト性問題を緩和する。
論文 参考訳(メタデータ) (2024-07-11T14:36:53Z) - Improving Self-supervised Pre-training via a Fully-Explored Masked
Language Model [57.77981008219654]
Masked Language Model (MLM)フレームワークは、自己教師型言語事前学習に広く採用されている。
そこで本研究では,テキストシーケンスを複数の非重複セグメントに分割するマスキング手法を提案する。
論文 参考訳(メタデータ) (2020-10-12T21:28:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。