論文の概要: A Few More Tokens Ahead: Reinforcing Parallelism in Diffusion LLMs

• arxiv url: http://arxiv.org/abs/2610.18200v1
• Date: Tue, 13 Oct 2026 11:37:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.604171
• Title: A Few More Tokens Ahead: Reinforcing Parallelism in Diffusion LLMs
• Title（参考訳）: 拡散LDMにおける並列性の強化
• Abstract要約: グループ相対的ポリシー最適化により,短時間のトークンブロックを強化し,ロールアウトとログ確率再計算のコストを削減するReParaを提案する。 我々のGSM8KとMATH-500の精度は、JustGRPOよりも格段に改善され、LLaDA/MATHセットアップの1.96倍のトレーニングステップが高速化された。
• 参考スコア（独自算出の注目度）: 65.34697913623683
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Parallel generation is widely regarded as an inherent advantage of diffusion large language models. Yet our fixed-quota evaluation of four representative models reveals severe degradation across mathematics and code, with all scores below 15% at 16 tokens per step. Token-level probes identify local predictive potential near the observed prefix, especially in mathematical text. We propose RePara, which reinforces short consecutive token blocks through group-relative policy optimization and reduces rollout and log-probability recomputation costs. On LLaDA and SDAR, \ours improves GSM8K and MATH-500 accuracy over JustGRPO under reduced denoising budgets, with a 1.96x training-step speedup in our LLaDA/MATH setup.
• Abstract（参考訳）: 並列生成は拡散大言語モデルに固有の利点として広く見なされている。 しかし、4つの代表モデルの固定クォータ評価は、数学とコードの間で深刻な劣化を示し、全てのスコアは1ステップあたり16トークンで15%以下である。 トークンレベルのプローブは、特に数学的テキストにおいて、観察された接頭辞の近傍の局所的な予測ポテンシャルを識別する。 グループ相対的ポリシー最適化により,短時間のトークンブロックを強化し,ロールアウトとログ確率再計算のコストを削減するReParaを提案する。 LLaDAとSDARでは、GramGRPOよりもGSM8KとMATH-500の精度が向上し、LLaDA/MATHのトレーニングステップが1.96倍になった。

関連論文リスト

• Informed Masking: Structure-Aware Perturbation for Reinforcement Learning in Diffusion Large Language Models [49.51177333039044]
  我々は、dLLMロールアウトにおいて、体系的な上流/下流構造を同定する。 Informed Masking (IM) を提案する。これは、余剰推論コストゼロのデノベーション軌道から、ダウンストリームトークンへのマスクサンプリングの偏りを導出する。 LLaDA-8B-インストラクタ上で3つの最先端のdLLM RLメソッドにプラグインされると、最大2.01%、8.68%、および5.77%の相対的なゲインを数学と計画ベンチマークで提供し、トレーニング安定性を改善した。
  論文  参考訳（メタデータ） (2026-09-22T09:31:23Z)
• Residual Context Diffusion Language Models [90.07635240595926]
  Residual Context Diffusion (RCD) は、捨てられたトークン表現をコンテキスト残留に変換し、次のデノイングステップでそれらを注入するモジュールである。 RCDは、最小限の計算オーバーヘッドで、5-10ポイントの精度でフロンティアdLLMを一貫して改善する。
  論文  参考訳（メタデータ） (2026-01-30T13:16:32Z)
• R-Stitch: Dynamic Trajectory Stitching for Efficient Reasoning [80.104336426172]
  CoT(Chain-of- Thought)は、大規模言語モデルの問題解決能力を高める。 CoTは長い自己回帰軌道のためにかなりの推論コストを発生させる。 トレーニング不要なハイブリッドデコーディングフレームワークであるR-Stitchを紹介する。
  論文  参考訳（メタデータ） (2025-07-23T08:14:36Z)
• What makes Reasoning Models Different? Follow the Reasoning Leader for Efficient Decoding [84.42056293290015]
  推論モデルと非推論モデルの間のトークンレベルのミスアライメントを分析する。 本稿では,FoReaL-Decodingを提案する。 一般的な4つの数学推論ベンチマークにおいて、FoReaL-Decodingは理論FLOPを30から50%減らし、CoTの長さを最大40%減らした。
  論文  参考訳（メタデータ） (2025-06-08T05:08:32Z)
• Token-Efficient RL for LLM Reasoning [0.02488650627593658]
  本稿では,大規模言語モデル (LLM) において,厳密なメモリと計算限界下での推論に適した強化学習戦略を提案する。 ベースラインサブトラクションを用いた早期ポリシー勾配法に基づいて,出力トークンの小さな情報サブセット上で動作する批判のない手法を設計する。 提案手法は,SVAMPベンチマークの精度を46%から70%以上に向上し,マルチ桁乗算において高い性能を示した。
  論文  参考訳（メタデータ） (2025-04-29T14:58:43Z)
• Sparsity Forcing: Reinforcing Token Sparsity of MLLMs [40.93786579652003]
  マルチモーダル大規模言語モデル(MLLM)におけるトークンの分散性を,単純なRLベースのポストトレーニングフレームワークであるtextitSparsity Forcing を用いて明示的に強化する。 本手法では,複数ロールアウトを異なるトークン予算で実行し,効率(トーケン還元率)と性能(回答正当性)の両方を共同報酬として定式化することにより,効率・正確性トレードオフを探索する。
  論文  参考訳（メタデータ） (2025-04-23T01:45:55Z)
• Not all tokens are created equal: Perplexity Attention Weighted Networks for AI generated text detection [49.15148871877941]
  大規模言語モデル(LLM)の検出に理論的に魅力的なアプローチを提供する次点分布出力 本稿では,LLMの最後の隠蔽状態を用いて,列長の次トーケン分布のメトリクスに基づく一連の特徴量の重み付けを行うパープレキシティ注意重み付けネットワーク(PAWN)を提案する。 PAWNは、トレーニング可能なパラメータのごく一部を持つ最強のベースラインよりも、競争力があり、より優れた分散性能を示している。
  論文  参考訳（メタデータ） (2025-01-07T17:00:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。