論文の概要: Diffusion-GR2: Diffusion Generative Reasoning Re-ranker

• arxiv url: http://arxiv.org/abs/2607.01170v1
• Date: Wed, 01 Jul 2026 17:02:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-02 19:56:07.998525
• Title: Diffusion-GR2: Diffusion Generative Reasoning Re-ranker
• Title（参考訳）: Diffusion-GR2: Diffusion Generative Reasoning Re-ranker
• Abstract要約: 生成的推論リランカは、候補リストを再注文する前にチェーン・オブ・ソートを出力することにより、強力なレコメンデーション精度を達成する。 自己回帰(AR)デコーダは推論トークン毎に1つのシーケンシャルフォワードパスを消費し、推論トレースはその生成するランキングをはるかに上回る。 このコストを削減するため、ブロック拡散言語モデルは数ステップで複数の位置を並列にデコードする。
• 参考スコア（独自算出の注目度）: 36.3046891412256
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Generative reasoning re-rankers achieve strong recommendation accuracy by emitting a chain-of-thought before re-ordering a candidate list, but they are slow at inference: an autoregressive (AR) decoder spends one sequential forward pass per reasoning token, and the reasoning trace far exceeds the ranking it produces. To reduce this cost, block-diffusion language models decode many positions in parallel over a few denoising steps and are substantially faster, yet naively converting an AR re-ranker into one opens two accuracy gaps: (1) a structural gap: answer positions are denoised in parallel and scored independently, so the decoder emits invalid rankings (duplicated, dropped, or out-of-set identifiers) that AR avoids through left-to-right masking; and (2) a distributional gap: fine-tuning the converted model on fixed teacher trajectories is off-policy relative to its own decoding at inference, leaving a residual accuracy gap. To close both gaps while keeping the speedup, we propose \textbf{Diffusion-GR2}, a recipe that converts our AR reasoning re-ranker (GR2) into a block-diffusion re-ranker. First, conversion fine-tuning (CFT) adapts the AR-initialized diffusion model to denoise the answer into a valid permutation on its own, without an external constrained decoder. Next, on-policy distillation (OPD) then supervises the model on its own decoded trajectories with dense per-token targets from the AR teacher. Finally, we apply a reinforcement-learning (RL) stage against a re-ranking reward on top of OPD's on-policy policy. Experiments on Amazon Beauty demonstrate that Diffusion-GR2 recovers to near-parity with the AR re-ranker, while block-parallel decoding raises decode throughput by $2.4$--$3.5\times$ at the model's reasoning output length. Ablations show that CFT recovers most of the conversion gap, and that on-policy distillation further closes it to the AR reference.
• Abstract（参考訳）: 生成的推論再ランカは、候補リストを並べ替える前にチェーンオブソートを出力することで、強い推奨精度を達成するが、推論が遅い:自己回帰(AR)デコーダは推論トークン毎に1つのシーケンシャルフォワードパスを消費し、推論トレースはその生成したランキングをはるかに上回る。 このコストを削減するため、ブロック拡散言語モデルでは、いくつかのデノベーションステップで複数の位置を並列にデコードし、実質的に高速であるが、ARリランカを1つの精度ギャップにナビゲートする。(1) 構造的ギャップ: 回答位置: 並列に復号化され、独立してスコア付けされるため、デコーダは、ARが左から右へのマスキングを回避している不正なランキング(重複、ドロップ、アウトオブセット識別子)を出力する。 スピードアップを保ちながら両方のギャップを埋めるため,AR推論再ランカ(GR2)をブロック拡散再ランカに変換するレシピである \textbf{Diffusion-GR2} を提案する。 まず、変換ファインチューニング(CFT)はAR初期化拡散モデルに適応し、外部制約のデコーダを使わずに、解をそれ自身で有効な置換に変換する。 次に、オンライン蒸留(OPD)は、AR教師から密集したターゲットを持つ独自のデコードされた軌道上でモデルを監督する。 最後に,OPDの政策上の報酬に対して,強化学習(RL)の段階を適用した。 Amazon Beautyの実験では、Diffusion-GR2がARリランカでほぼ平準に回復するのに対し、ブロック並列デコードではデコードスループットが2.4$--$3.5\times$に向上することを示した。 アブレーションにより、CFTは変換ギャップの大部分を回復し、オン・ポリケーション蒸留によりAR参照に近づくことが示されている。

関連論文リスト

• GEAR: Guided End-to-End AutoRegression for Image Synthesis [45.98061600562716]
  GEARはベクトル量子化(VQ)トークンライザと自己回帰(AR)ジェネレータを共同およびエンドツーエンドでトレーニングする。 GEARは、強力なLlamaGen-REPAベースラインと比較して、ImageNet gFID収束を最大10倍高速化する。
  論文  参考訳（メタデータ） (2026-06-30T17:59:57Z)
• Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching [66.39914384073145]
  本稿では,安価な拡散サンプリング推論をステップレベル候補の再利用プールに変換する自己整合性フレームワークを提案する。 ステップレベルの再結合は、難しい問題に対して最も有益であることがわかった。 トレーニング不要のフレームワークは、6つの数学およびコーディングタスクの平均精度を最大2倍改善します。
  論文  参考訳（メタデータ） (2026-02-26T11:08:39Z)
• Reversible Diffusion Decoding for Diffusion Language Models [69.10149777322108]
  Reversible Diffusion Decoding (RDD) はブロックワイド拡散生成に可逆性を導入するデコーディングフレームワークである。 RDDは、逆プロセスの状態依存的な障害として停滞を検出し、以前のブロックへの効率的なバックトラックを可能にする。 実験により、RDDは最小の計算オーバーヘッドでベースラインよりも生成の堅牢性と品質を向上させることが示された。
  論文  参考訳（メタデータ） (2026-01-29T12:52:33Z)
• From Next-Token to Next-Block: A Principled Adaptation Path for Diffusion LLMs [58.640039233470766]
  原理的AR-to-block-diffusion適応は,DLMをスクラッチからトレーニングする上で,有効かつ効率的な代替手段であることを示す。 NBDiff-7B(BaseとInstruct)は、長文のモデリングと推論機能を継承し、最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2025-12-07T10:28:21Z)
• Uncertainty Quantification for Retrieval-Augmented Reasoning [40.43455995861054]
  Retrieval-augmented reasoning (RAR)は、検索と生成に複数の推論ステップを用いる検索強化世代(RAG)の最近の進化である。 不確実性定量化(Uncertainty Quantification、UQ)は、システムの出力の信頼性を推定する方法を提供する。 本稿では,RARの新しいUQ手法であるRetrieval-Augmented Reasoning(R2C)を紹介する。
  論文  参考訳（メタデータ） (2025-10-13T14:55:28Z)
• Continuous Speculative Decoding for Autoregressive Image Generation [27.308442169466975]
  連続的視覚自己回帰(AR)モデルは、画像生成において有望な性能を示す。 投機的復号化は 事実上 自己回帰推論を加速させた この研究は、低受理率、不整合出力分布、解析式のない修正分布からの課題に対処する。
  論文  参考訳（メタデータ） (2024-11-18T09:19:15Z)
• FastLR: Non-Autoregressive Lipreading Model with Integrate-and-Fire [74.04394069262108]
  我々は,全てのターゲットトークンを同時に生成する非自己回帰(NAR)リップリーダーモデルであるFastLRを提案する。 FastLRは最先端のリップリーダーモデルと比較して10.97$times$のスピードアップを実現している。
  論文  参考訳（メタデータ） (2020-08-06T08:28:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。