論文の概要: Training-Free Character-Length Control in Summarization with Diffusion Language Models

• arxiv url: http://arxiv.org/abs/2611.06371v1
• Date: Wed, 04 Nov 2026 11:32:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:25:58.094072
• Title: Training-Free Character-Length Control in Summarization with Diffusion Language Models
• Title（参考訳）: 拡散言語モデルを用いた要約における学習自由文字長制御
• Abstract要約: DELTAは,マスク拡散型LMのトレーニング不要な推論時間法である。 予測文字長を各デノナイジングステップで推定し、ターゲット長に向けてマスクされた位置を動的に挿入または除去する。 自動評価と人的評価の両方において、競合的な要約品質を維持しながら、ベースラインに比べて文字長の誤差を桁違いに低減する。
• 参考スコア（独自算出の注目度）: 9.872253221122852
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Summarization with a fixed character length is important for tasks such as headline and article preview generation, where text must fit an exact space. Autoregressive language models (LMs) struggle with precise character-length control: training-based methods require task-specific fine-tuning, while zero-shot prompting strategies achieve only approximate compliance. We propose DELTA (Diffusion Expected Length Targeting Algorithm), a training-free inference-time method for masked diffusion LMs that estimates expected character length at each denoising step and dynamically inserts or removes masked positions to steer toward a target length. DELTA requires no fine-tuning and is designed for off-the-shelf masked diffusion LMs. Across three summarization benchmarks, it reduces character-length errors by an order of magnitude compared to baselines while maintaining competitive summary quality in both automatic and human evaluation.
• Abstract（参考訳）: 固定文字長の要約は、見出しや記事のプレビュー生成のようなタスクでは重要であり、テキストは正確な空間に収まる必要がある。 オートレグレッシブ言語モデル(LM)は、正確な文字長制御に苦しむ:訓練ベースの手法はタスク固有の微調整を必要とするが、ゼロショットプロンプト戦略は近似コンプライアンスしか達成しない。 DELTA(Diffusion expecteded Length Targeting Algorithm, DELTA)は、マスク拡散LMのトレーニング不要な推定時間法であり、各デノナイジングステップで期待される文字長を推定し、ターゲット長に向けてマスクされた位置を動的に挿入または除去する。 DELTAは微調整を必要とせず、市販のマスク付き拡散膜用に設計されている。 3つの要約ベンチマークで、ベースラインと比較して文字長の誤差を桁違いに減らし、自動評価と人的評価の両方において競合的な要約品質を維持する。

関連論文リスト

• Survival-Guided Length Control for Efficient Diffusion Language Models [15.49436655340166]
  終端トークン上での離散時間生存問題として長さ選択をリキャストする。 既存のDLMに付加可能なプラグイン・トレーニング不要長予測器を提案する。
  論文  参考訳（メタデータ） (2026-08-26T19:59:42Z)
• Can LLMs Track Their Output Length? A Dynamic Feedback Mechanism for Precise Length Regulation [50.821215666749545]
  大きな言語モデル(LLM)は、しばしばその応答長を正確に測ることに失敗し、長さの制約に固執する。 生成中の動的長さフィードバックを組み込んだ新しい長さ制御手法を提案する。 要約タスクと伝記タスクの実験は、目標トークン、単語、文数を達成する際のトレーニング不要なアプローチにより、精度が大幅に向上することを示している。
  論文  参考訳（メタデータ） (2026-01-05T03:49:14Z)
• Beyond Fixed: Training-Free Variable-Length Denoising for Diffusion Large Language Models [74.15250326312179]
  拡散大言語モデルは効率的な並列生成とグローバルモデリングを提供する。 DLLMの主流の応用は、静的に事前定義された生成長の必要性によって妨げられている。 DAEDALは,動的適応長拡張を可能にする新しい学習自由化戦略である。
  論文  参考訳（メタデータ） (2025-08-01T17:56:07Z)
• Length Controlled Generation for Black-box LLMs [70.57649832433451]
  大規模言語モデル (LLM) は印象的な命令に従う能力を示しているが、生成したテキストの長さを正確に管理することは困難である。 本稿では,Metropolis-Hastingsアルゴリズムと重要なサンプリング高速化戦略を組み合わせた,テキスト長制御のための新しい反復サンプリングフレームワークを提案する。 このフレームワークは,Llama3.1における長さ制御の抽象的要約などのタスクに対して,ほぼ100%の成功率を達成する。
  論文  参考訳（メタデータ） (2024-12-19T09:07:38Z)
• Precise Length Control in Large Language Models [1.3654846342364308]
  大規模言語モデル(LLM)は、プロダクションシステムでますます使われている。 本稿では,事前学習したデコーダのみのLCMを応答長の正確な制御に適応させる手法を提案する。
  論文  参考訳（メタデータ） (2024-12-16T16:22:27Z)
• Instruction Position Matters in Sequence Generation with Large Language Models [67.87516654892343]
  大規模言語モデル(LLM)は、翻訳や要約といった条件付きシーケンス生成タスクを実行することができる。 入力文の後にタスク命令の位置をシフトさせることにより,LLMの指示追従能力を向上させることを提案する。
  論文  参考訳（メタデータ） (2023-08-23T12:36:57Z)
• Reducing Sequence Length by Predicting Edit Operations with Large Language Models [50.66922361766939]
  本稿では,ローカルなシーケンス変換タスクに対して,ソーステキストの編集スパンを予測することを提案する。 編集スパンの監督データに大規模言語モデルに対する命令チューニングを適用する。 実験の結果,提案手法は4つのタスクにおいて,ベースラインに匹敵する性能を発揮することがわかった。
  論文  参考訳（メタデータ） (2023-05-19T17:51:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。