論文の概要: Keep the Lineages Alive: Diversity-Preserving SMC for Diffusion LLM Decoding

• arxiv url: http://arxiv.org/abs/2610.25932v1
• Date: Mon, 19 Oct 2026 07:30:07 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 21:59:50.859215
• Title: Keep the Lineages Alive: Diversity-Preserving SMC for Diffusion LLM Decoding
• Title（参考訳）: 線形性を維持する:拡散LDM復号のための多様性保存SMC
• Abstract要約: 推論時シーケンシャルモンテカルロデコーディングは、マスク付き拡散言語モデルの推論精度を向上させることができる。 そこで我々は,Chopthinリサンプリングと入力重量床を組み合わせた系統保存型SMC(LP-SMC)を提案する。 数学的推論とコード生成のベンチマークを通じて、LP-SMCは、少なくとも1つの正しい粒子の問題であるオラクルのカバレッジを1.8から25.6ポイント向上させる。
• 参考スコア（独自算出の注目度）: 8.407688648020285
• License:
• Abstract: Inference-time sequential Monte Carlo (SMC) decoding can improve the reasoning accuracy of masked diffusion language models (diffusion LLMs) without post-training by resampling a population of partial generations according to a reward. Its effectiveness therefore depends on the resampling step, which must concentrate computation on promising candidates while retaining enough diversity to explore alternative reasoning paths. The reward can be internal, the decoder's own confidence on the committed prefix, or external, a process reward model scoring that prefix. Under either reward, multinomial resampling can disrupt this balance by duplicating high-weight particles and discarding lineages that may still reach a correct solution. The effective sample size (ESS) does not register this loss: multinomial resampling resets it to its maximum even as distinct lineages disappear. To retain such lineages, we introduce lineage-preserving SMC (LP-SMC), which combines Chopthin resampling with an input weight floor. Instead of equalizing weights, Chopthin bounds the ratio between the largest and smallest weights it returns and carries the unequal weights forward. The floor limits how far below the maximum a weight may fall before resampling so that lineages with low early weight keep a chance to recover. Across mathematical-reasoning and code-generation benchmarks on two base models, LP-SMC raises oracle coverage, the fraction of problems with at least one correct particle, in every setting, by 1.8 to 25.6 points, and raises end-to-end accuracy under a common reward-model selector in eleven of twelve settings, by up to 7.9 points on LLaDA-1.5 and 18.3 on Dream-7B. The coverage gain persists under the external reward model, which suggests that diversity-preserving resampling and the guidance signal contribute separately to inference-time search.
• Abstract（参考訳）: 推論時連続モンテカルロ復号(SMC)は、報酬に応じて部分的な世代を再サンプリングすることにより、後トレーニングをすることなく、マスク付き拡散言語モデル(拡散LDM)の推論精度を向上させることができる。 したがって、その効果は再サンプリングのステップに依存しており、将来性のある候補に計算を集中させながら、代替の推論経路を探索するのに十分な多様性を保たなければならない。 報酬は内部、デコーダ自身のコミットしたプレフィックスに対する信頼、あるいはそのプレフィックスを評価するプロセス報酬モデルである。 どちらの報酬の下でも、多項再サンプリングは、高重量粒子を複製し、正しい解に達するかもしれない系統を捨てることで、このバランスを損なう可能性がある。 実効的なサンプルサイズ(ESS)は、この損失を登録していない。 このような系統を維持するために,チョプチン再サンプリングと入力重量床を組み合わせた系統保存型SMC(LP-SMC)を導入する。 重みを等しくする代わりに、チョプチンは戻ってくる最大と最小の重みの比率を制限し、不等重みを前方に運ぶ。 床は、初期体重の低い系統が回復する機会を維持するために再サンプリングする前に、最大重量がどれだけ下がったかを制限する。 2つの基本モデルの数学的推論とコード生成のベンチマークで、LP-SMCはオラクルのカバレッジ、少なくとも1つの正しい粒子の問題を1.8から25.6ポイント、Dream-7BのLLaDA-1.5と18.3で最大7.9ポイント、共通の報酬モデルセレクタでエンドツーエンドの精度を高める。 カバレッジゲインは外部報酬モデルの下で持続し、多様性保存リサンプリングとガイダンス信号が推論時間探索に別々に寄与することを示唆する。

関連論文リスト

• Decoupled Marginal Sharpening for Training-Free Inference-Time Scaling [19.842727659343797]
  モデル重みを更新したり、外部報酬モデルを使用したりすることなく、推定時間でのLLM推論を改善する方法について検討する。 本稿では、モデルが特定の推論経路をどれだけ強く好むかを個別に制御するDecoupled Margin Sharpening (DMS)を提案する。 DMSは、すべてのタスクで比較されたメソッドの中で、最も平均パス@1を達成する。
  論文  参考訳（メタデータ） (2026-10-14T16:55:22Z)
• FluxLite: Inference-Time Proposal Control for Discrete Diffusion Models [22.416181303190573]
  本稿では、離散拡散のための軽量でトレーニング不要な提案制御フレームワークであるFluxLiteを紹介する。 我々はこの原理を2つの実践的なサンプルとしてインスタンス化している: 1-hop Local reallocation rule (HEU) と、事前訓練されたレートベース (D-VCG) 上の小さな非負の二次プログラムである。
  論文  参考訳（メタデータ） (2026-09-28T17:02:48Z)
• Fiona: Accelerating FHE Inference with Packing-Aware Ternary Weights [13.428037300225435]
  第三次量子化はマルチプリカチオンを加算と減算で置き換えることができるが、蓄えが充填された実行下では実現されることは滅多にない。 FIONAは、所定のパッキングレイアウト内で重みを選択的にテナライズするオフラインモデルである。 VGG11、ViT、BERTでは、FIONAはPMult操作を53.4-79.5%削減し、エンドツーエンドの暗号化推論を2.38x、1.68x、1.84xで高速化する。
  論文  参考訳（メタデータ） (2026-09-28T15:03:10Z)
• Chopthin-Consensus Power Sampling: A Diversity-Preserving Approach to LLM Decoding [7.9999203378496775]
  シークエンシャルモンテカルロによる実時間電力サンプリングは、後トレーニングを必要とせずに、大規模言語モデル(LLM)推論を大幅に改善することができる。 既存のSMCアプローチの多くは等重量再サンプリングに依存しており、これは低重量軌道を積極的に引き起こすことができる。 我々は,最大重量と最小重量の比率に上限を課し,不等重量を前方に搬送するChopthin-Consensus Power Sampling (CCPS)を導入する。
  論文  参考訳（メタデータ） (2026-09-10T22:02:07Z)
• ResiSpec: Enhancing Multi-Candidate Speculative Sampling via Residual Distribution Shaping [79.1905186547363]
  ResiSpecは、検証中に提案の配布を戦略的に改革するフレームワークである。 候補の偏光を防止し、最先端のマルチ候補法よりも最大1.92$times$スピードアップを達成する。
  論文  参考訳（メタデータ） (2026-08-25T11:25:55Z)
• MARBLE: Multi-Aspect Reward Balance for Diffusion RL [71.6241143519038]
  強化学習は、拡散モデルと人間の嗜好を整合させる主要なアプローチとなっている。 既存のプラクティスは、報酬ごとに1つのスペシャリストモデルをトレーニングすることで、複数の報酬を処理します。 我々は,各報酬に対する独立な優位推定器を維持する勾配空間最適化フレームワークMARBLEを提案する。
  論文  参考訳（メタデータ） (2026-05-07T16:20:42Z)
• Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching [66.39914384073145]
  本稿では,安価な拡散サンプリング推論をステップレベル候補の再利用プールに変換する自己整合性フレームワークを提案する。 ステップレベルの再結合は、難しい問題に対して最も有益であることがわかった。 トレーニング不要のフレームワークは、6つの数学およびコーディングタスクの平均精度を最大2倍改善します。
  論文  参考訳（メタデータ） (2026-02-26T11:08:39Z)
• Self-Rewarding Sequential Monte Carlo for Masked Diffusion Language Models [58.946955321428845]
  本研究は自己回帰型モンテカルロ(SMC)を提示する。 提案アルゴリズムは,既存のMDLMのほとんどが信頼性に基づくサンプリング戦略に依存している点に起因している。 粒子重み付けのための自己回帰信号として軌道レベルの信頼性を導入する。
  論文  参考訳（メタデータ） (2026-02-02T09:21:45Z)
• Kernelized Sparse Fine-Tuning with Bi-level Parameter Competition for Vision Models [80.50996301430108]
  スパースチューニングは、下流タスクに最も関係のある重みだけを調整することで、顕著なパフォーマンスを達成する。 上述の制限を克服する一段法SNELLAを提案する。 SNELLAは低メモリ使用量でSOTA性能を達成する。
  論文  参考訳（メタデータ） (2025-10-28T03:39:18Z)
• Weights-Rotated Preference Optimization for Large Language Models [30.25242193651982]
  本稿では,DPO から受け継いだ KL 発散量に対して,出力層ロジットを暗黙的に制約する,新しい重み付き優先度最適化 (RoPO) アルゴリズムを提案する。 我々の RoPO は AlpacaEval 2 の 3.27 点改善を実現し,トレーニング可能なパラメータの 0.015% を MT-Bench の 6.2 から 7.5 点 で上回っている。
  論文  参考訳（メタデータ） (2025-08-25T03:57:17Z)
• WARM: On the Benefits of Weight Averaged Reward Models [63.08179139233774]
  Weight Averaged Reward Models (WARM) を提案する。 最良N法とRL法を用いた要約タスクの実験は、WARMがLLM予測の全体的な品質とアライメントを改善することを示す。
  論文  参考訳（メタデータ） (2024-01-22T18:27:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。