論文の概要: Break the Block: Dynamic-size Reasoning Blocks for Diffusion Large Language Models via Monotonic Entropy Descent with Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2605.02263v1
• Date: Mon, 04 May 2026 06:17:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-05 20:33:50.160534
• Title: Break the Block: Dynamic-size Reasoning Blocks for Diffusion Large Language Models via Monotonic Entropy Descent with Reinforcement Learning
• Title（参考訳）: ブロックを破る: 強化学習を用いたモノトニックエントロピーDescentによる拡散大言語モデルのための動的サイズ推論ブロック
• Authors: Yan Jiang, Ruihong Qiu, Zi Huang,
• Abstract要約: 固定サイズのブロック世代は、効果的で一貫性のある推論にとって重要なボトルネックである。 本稿では,モノトニック・エントロピー・ディフレキティブ(モノトニック・エントロピー・ディフレキティブ)を用いて動的サイズ推論ブロックを学習する,dLLMのための新しい学習後フレームワークb1を提案する。
• 参考スコア（独自算出の注目度）: 41.859993506122194
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent diffusion large language models (dLLMs) have demonstrated both effectiveness and efficiency in reasoning via a block-based semi-autoregressive generation paradigm. Despite their progress, the fixed-size block generations remain a critical bottleneck for effective and coherent reasoning. 1. From a global perspective, different reasoning tasks would correspond to different optimal decoding block sizes, which makes a ``one-size-fits-all'' assumption ineffective. 2. Even within a single reasoning task, the rigid block partitioning would break the logical flow and reduce reasoning coherence. Through empirical observations, we reveal that for block-wise entropy, incorrect reasoning exhibits a fluctuating and unsteady trend between blocks, whereas the correctly generated tasks follow a consistent descending trend. Therefore, this paper proposes b1, a novel post-training framework for dLLMs that learns dynamic-size reasoning blocks via a Monotonic Entropy Descent objective with reinforcement learning to enhance reasoning coherence.b1 integrates seamlessly as a plug-and-play module with existing dLLM's post-training algorithms. Extensive experiments across various reasoning benchmarks showcase b1's consistent improvement over existing fixed-size block baselines. Our code has been released at https://github.com/YanJiangJerry/Block-R1.
• Abstract（参考訳）: 近年の拡散大言語モデル (dLLM) は,ブロックベース半自己回帰生成パラダイムによる推論の有効性と効率性を実証している。 その進歩にもかかわらず、固定サイズのブロック世代は、効果的で一貫性のある推論にとって重要なボトルネックである。 1. グローバルな見地からすると, 異なる推論タスクは, 最適な復号化ブロックサイズに対応し, `1-size-fits-all'' の仮定を非効率にする。 2. 一つの推論タスク内であっても,厳密なブロック分割は論理的流れを壊し,推論コヒーレンスを低減する。 経験的観察により,ブロックワイドのエントロピーに対して,不正確な推論はブロック間のゆらぎと不安定な傾向を示すのに対し,正しく生成されたタスクは一貫した降下傾向を示すことが明らかとなった。 そこで本研究では,単調エントロピーDescent目標を用いた動的サイズの推論ブロックを学習し,推論コヒーレンスを向上させるため,b1を既存のdLLMのポストトレーニングアルゴリズムとシームレスに統合する,新しいDLLMのポストトレーニングフレームワークであるb1を提案する。 様々な推論ベンチマークによる大規模な実験では、既存の固定サイズブロックベースラインよりも一貫した改善が示されている。 私たちのコードはhttps://github.com/YanJiangJerry/Block-R1.comでリリースされています。

関連論文リスト

• Advancing Block Diffusion Language Models for Test-Time Scaling [73.54022593833638]
  BDLMにおけるテスト時間スケーリングのための統一的なフレームワークを提案する。 復号化とブロックワイズ生成の両方に適応性を導入する。 BACD, TCCFをTDAR-8Bに適用すると, 強いベースラインよりも顕著な改善が得られた。
  論文  参考訳（メタデータ） (2026-02-10T09:05:07Z)
• DSB: Dynamic Sliding Block Scheduling for Diffusion LLMs [17.284485483927448]
  拡散大言語モデル(dLLM)は、テキスト生成の有望な代替手段として登場した。 広く使われている固定ブロック (naive) スケジュールは意味的難易度に非依存であり、品質と効率の両面での準最適戦略である。 本研究では,動的ブロックの剛性を克服するため,動的サイズを有するスライディングブロックを用いて,トレーニング不要なブロックスケジューリング手法であるDynamic Sliding Block (DSB)を提案する。
  論文  参考訳（メタデータ） (2026-02-05T18:41:38Z)
• From Next-Token to Next-Block: A Principled Adaptation Path for Diffusion LLMs [58.640039233470766]
  原理的AR-to-block-diffusion適応は,DLMをスクラッチからトレーニングする上で,有効かつ効率的な代替手段であることを示す。 NBDiff-7B(BaseとInstruct)は、長文のモデリングと推論機能を継承し、最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2025-12-07T10:28:21Z)
• Blockwise SFT for Diffusion Language Models: Reconciling Bidirectional Attention and Autoregressive Decoding [60.06816407728172]
  離散拡散言語モデルは、テキスト生成に強い可能性を示している。 半自己回帰推論による微調整ミスアライメントの標準化 我々は、応答を固定サイズブロックに分割するBlockwise SFTを提案する。
  論文  参考訳（メタデータ） (2025-08-27T02:49:33Z)
• Think in Blocks: Adaptive Reasoning from Direct Response to Deep Reasoning [3.773711855945839]
  大型言語モデル (LLM) とチェーン・オブ・シントは,タスク範囲の増大に対して高いパフォーマンスを示している。 LLMはタスクの複雑さに基づいて推論プロセスの長さを動的に調整できますか? 本稿では,ゼロから深い推論への適応的推論を可能にするThink in Blocksフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-21T12:32:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。