論文の概要: Entropy Can Flow, or It Can Guide. Be Entropy. LEDFlow: Introducing Entropy-guided Generation Order into Uniform Discrete Flow

• arxiv url: http://arxiv.org/abs/2609.25131v2
• Date: Tue, 29 Sep 2026 07:09:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.519864
• Title: Entropy Can Flow, or It Can Guide. Be Entropy. LEDFlow: Introducing Entropy-guided Generation Order into Uniform Discrete Flow
• Title（参考訳）: LEDフロー:一様離散流へのエントロピー誘導生成次数の導入
• Abstract要約: 選択的吸収による一様離散流に生成順序を導入する。 本研究では,局所的なエントロピーによる吸収を適応的に発注するトレーニング不要なサンプルラーである低エントロピー離散流(LEDFlow)を提案する。 LEDFlowは 0.845 Nikoli Sudoku の精度を達成し、強い制約のあるタスクで最大のゲインを得る。
• 参考スコア（独自算出の注目度）: 44.70376801956979
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Uniform discrete flow permits repeated updates at every generation position. While continued revision supports correction of wrong tokens, it also exposes correct intermediate predictions to later errors. An experiment on Sudoku puzzles shows that 9.4% of generated cells are correct at an intermediate step but incorrect in the final output. We introduce generation order into uniform discrete flow through selective absorption, which fixes chosen predictions while preserving the uniform flow velocity at active positions. To prioritize reliable predictions for absorption, we propose Low-Entropy Discrete Flow (LEDFlow), a training-free sampler that adaptively orders absorption by local entropy. By decomposing absorption error into joint dependence and conditional prediction terms, we show that, under entropy-error regularity, selecting the lowest-entropy positions under a fixed absorption count minimizes an upper bound on the conditional term. We further analyze sensitivity of global lookahead, whose worst-case decision-error bound grows with lookahead window under an imperfect denoiser. Across reasoning benchmarks, LEDFlow attains 0.845 Nikoli Sudoku solve accuracy, with largest gains on strongly constrained tasks. On a text-to-image generation benchmark it attains the best overall score among decode-time samplers, and on multimodal understanding it improves over the default sampler on all six benchmarks, at an inference cost comparable to standard flow sampling.
• Abstract（参考訳）: 均一な離散フローは、生成位置毎に繰り返し更新を許可する。 継続的な修正は間違ったトークンの修正をサポートするが、後続のエラーに対して正しい中間予測を公開する。 数独パズルの実験では、生成した細胞の9.4%が中間段階で正しいが、最終的な出力では正しくないことが示されている。 選択吸収による一様離散流に生成順序を導入し, アクティブ位置における一様流速を保ちながら, 選択した予測を補正する。 そこで本研究では, 局所エントロピーによる吸収を適応的に順序付けするトレーニングフリーサンプリング装置である低エントロピー離散流(LEDFlow)を提案する。 吸収誤差を結合依存性と条件予測項に分解することにより、エントロピー・エラー規則の下では、固定吸収数の下で最低エントロピー位置を選択することにより、条件項上の上限を最小化することを示す。 我々はさらに,不完全なデノイザの下でのルックアヘッドウィンドウで最悪の判定エラーが増大するグローバルなルックアヘッドの感度を解析した。 推論ベンチマーク全体を通じて、LEDFlowは0.845 Nikoli Sudokuの精度を達成し、強い制約のあるタスクに対して最大の利益を得ている。 テキスト・ツー・イメージ生成ベンチマークでは、デコード時間サンプルラーの中で最高のスコアを獲得し、マルチモーダル理解では、標準フローサンプリングに匹敵する推論コストで、6つのベンチマークのデフォルトサンプルラーよりも改善されている。

関連論文リスト

• Let It Go or Learn to Self-Correct: Continuous Diffusion for Constrained Discrete Tasks [16.76819088768813]
  拡散確率モデル(Denoising Diffusion Probabilistic Models)は、各更新を現在のノイズ状態に近い状態に保ちながら、繰り返しdenoisingによってサンプルを生成する。 モデルのクリーンな予測が有益である場合でも,標準拡散サンプリングは早期の誤りを保存する可能性があることを示す。 自己補正トレーニングを導入し、モデル自体の予測に公開し、推論中に発生するエラーに対する堅牢性を改善する。
  論文  参考訳（メタデータ） (2026-09-08T16:45:52Z)
• Diffusion as a Training Curriculum for Timestep-Free Iterative Reasoning [1.16829782470264]
  任意の深さまで走れる隠れ状態拡散デノイザを導入する。 Sudoku-Extremeでは99.90%、Maze-Uniqueでは98.93%の精度で解決している。 我々は,拡散が常に解き放つ主な要因は,推論におけるサンプリング手順ではなく,認知的学習カリキュラムであることに気付く。
  論文  参考訳（メタデータ） (2026-09-01T15:55:01Z)
• Simplex Relaxation for Discrete Diffusion [58.33696160279345]
  Simplax(Simplax)はディリクレ(Dirichlet)のカテゴリー拡張で、それぞれが崩壊したカテゴリ状態と補助的単純度値変数を結合する。 Simplaxは生成パープレキシティーを改善する。-無条件のOpenWebText生成におけるエントロピートレードオフ。
  論文  参考訳（メタデータ） (2026-08-11T07:58:17Z)
• Sample-Adaptive Latent Rewards for Uncertainty-Guided Diffusion Post-Training [51.18425726646089]
  我々は、画像とビデオの拡散モデルのための統合潜在空間フレームワークであるtextscSUREを提案する。 報酬分布を学習し、信頼性を直接利用して、密集したポストトレーニングをガイドする。 textscSURE-REFLは評価手法の中で最も高いVBench品質、セマンティック、総得点を達成する。
  論文  参考訳（メタデータ） (2026-08-06T14:55:42Z)
• LC-GRPO: Bridging Train-Inference Gap for Flow-Based GRPO with Langevin Correction [59.32834240526981]
  フローベース生成モデルは典型的には、決定論的常微分方程式(ODE)を解くことによってサンプリングされる 既存の流れモデルのためのGRPO法は、訓練中にオイラー時間ODEを非等方微分方程式(SDE)に置き換える。 本稿では,フローベースGRPOフレームワークであるLC-GRPOを紹介する。
  論文  参考訳（メタデータ） (2026-08-06T04:47:57Z)
• What Does a Discrete Diffusion Model Learn? [71.03603607324338]
  離散拡散モデルは、デノイザ、スコア比、ブリッジプラグイン予測器などを学ぶ。 まず, 連続時間マルコフ連鎖 (CTMC) ELBO の任意のノイズ発生過程に対する厳密な導出から始める。 すべてのアイデンティティは、正確に解けるモデル上で近似なしで数値的に検証される。
  論文  参考訳（メタデータ） (2026-07-06T17:56:11Z)
• AnyFlow: Any-Step Video Diffusion Model with On-Policy Flow Map Distillation [70.80207977907908]
  フローマップをベースとした,最初のノンステップビデオ拡散蒸留フレームワークであるAnyFlowを紹介した。 我々は、AnyFlowがいくつかの段階において、パフォーマンスの一致を達成するか、一貫性ベースの結果を上回ることを示す。
  論文  参考訳（メタデータ） (2026-05-13T16:06:34Z)
• Sampling from Flow Language Models via Marginal-Conditioned Bridges [1.43163477873944]
  フロー言語モデル (FLM) は、1ホットエンコードされたトークンシーケンスに対して連続的なフローマッチングを適用する。 我々は、FLMの自然なサンプリングは、代わりに後述の予測であると主張する。 誘導されたワンステップブリッジカーネルはトークン単位の後方予測限界を全て保持することを示す。
  論文  参考訳（メタデータ） (2026-05-13T15:38:48Z)
• Tilt Matching for Scalable Sampling and Fine-Tuning [4.14348726233299]
  本研究では,非正規化密度のサンプルや微調整生成モデルに補間剤を用いるスケーラブルなアルゴリズムを提案する。 ティルトマッチング(Tilt Matching)という手法は、流れのマッチング速度と、報酬によって傾いた同じ分布をターゲットにした力学方程式から生じる。 我々は,この手法が効率的かつ高度に拡張可能であることを実証的に検証し,レナード・ジョーンズポテンシャルの下でのサンプリングにおける最先端の結果を提供し,微調整安定拡散に競争力を持つことを示した。
  論文  参考訳（メタデータ） (2025-12-26T02:12:10Z)
• Manifold Trajectories in Next-Token Prediction: From Replicator Dynamics to Softmax Equilibrium [0.0]
  大規模言語モデルでの復号化はしばしばスコアリングトークンとソフトマックスによる正規化と表現される。 我々は、このステップの自己完結した幻覚を、確率単純性上の制約付き変分原理として与える。 固定された文脈と温度に対して、次トーケン分布は単純体内部の滑らかな軌道を辿り、ソフトマックス平衡に収束することを示す。
  論文  参考訳（メタデータ） (2025-08-28T20:00:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。