論文の概要: Binary Discrete Diffusion: Candidate-Set Diffusion for Logic and Planning Tasks
- arxiv url: http://arxiv.org/abs/2610.28543v1
- Date: Tue, 20 Oct 2026 17:11:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.942523
- Title: Binary Discrete Diffusion: Candidate-Set Diffusion for Logic and Planning Tasks
- Title(参考訳): 2値離散拡散:論理と計画課題のための候補セット拡散
- Abstract要約: ノイズ状態が位置当たりの候補トークンの集合である連続時間離散拡散過程の族を開発する。
スドク・エクストリーム(英語版)、ボキソバン(英語版)、グラフカラーリング(英語版)では、二項拡散の対称な定式化は、強い、よく調整されたマスク付き、均一な基底線よりも一貫して優れる。
- 参考スコア(独自算出の注目度): 68.63362631910265
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Discrete diffusion models iteratively denoise a noisy sequence of categorical data such as text, enabling any-order generation with self-correction and in-filling capabilities. This makes them promising candidates for reasoning, planning, and constrained-generation tasks like coding and math. Yet masked and uniform diffusion erase a token's identity in a single corruption event, so their noisy states cannot explicitly represent partially resolved uncertainty in which several alternatives remain plausible. We close this gap with Binary Discrete Diffusion, a family of continuous-time discrete-diffusion processes whose noisy state is a set of candidate tokens per position, represented as a binary membership vector. Binary diffusion changes candidate sets through additions and removals, allowing information to be lost and recovered gradually while the diffusion state itself represents partial uncertainty. On Sudoku-Extreme, Boxoban, and graph coloring, the symmetric formulation of binary diffusion consistently outperforms strong, well-tuned masked and uniform baselines under matched architectures and controlled training, sampling, and tuning budgets, with its largest gains on the hardest instances, while remaining competitive on language modeling (Text8, TinyStories, OpenWebText). These results support candidate sets as an effective intermediate representation for iterative reasoning and show that the corruption kernel can materially change the computation learned by the reverse model.
- Abstract(参考訳): 離散拡散モデルは、テキストなどの分類データのノイズ列を反復的にデノベートし、自己補正と補充機能を備えた任意の順序生成を可能にする。
これによって彼らは、推論、計画、そしてコーディングや数学のような制約された世代タスクの候補に期待できる。
しかし、マスク付き均一拡散は、単一の汚職イベントにおいてトークンのアイデンティティを消去するので、そのノイズ状態は、いくつかの代替品が妥当なまま部分的に解決された不確実性を表すことはできない。
このギャップを、連続時間離散拡散過程の族であるバイナリ離散拡散(Binary Discrete Diffusion)で埋める。
バイナリ拡散は、追加や削除を通じて候補セットを変更し、拡散状態自体が部分的不確実性を示す一方で、情報が徐々に失われて回復することを可能にする。
Sudoku-Extreme、Boxoban、グラフカラーリングでは、二項拡散の対称的な定式化は、マッチしたアーキテクチャと制御されたトレーニング、サンプリング、チューニング予算の下で、強い、よく調整されたマスク付き、均一なベースラインを一貫して上回り、最も難しいインスタンスで最大の利益を上げながら、言語モデリング(Text8、TinyStories、OpenWebText)で競争力を維持する。
これらの結果は、反復的推論の効果的な中間表現として候補集合をサポートし、汚職カーネルが逆モデルで学習した計算を実質的に変更可能であることを示す。
関連論文リスト
- Simplex Relaxation for Discrete Diffusion [58.33696160279345]
Simplax(Simplax)はディリクレ(Dirichlet)のカテゴリー拡張で、それぞれが崩壊したカテゴリ状態と補助的単純度値変数を結合する。
Simplaxは生成パープレキシティーを改善する。-無条件のOpenWebText生成におけるエントロピートレードオフ。
論文 参考訳(メタデータ) (2026-08-11T07:58:17Z) - Coevolutionary Continuous Discrete Diffusion: Make Your Diffusion Language Model a Latent Reasoner [66.86440230599656]
拡散言語モデルは必ずしも離散空間にある必要はないと主張する。
特に、連続拡散モデルが離散拡散やループ変換器よりも強い表現性を持つことを示す。
本稿では,連続表現空間と離散トークン空間の結合に関する共同多モード拡散過程を定義する共進化連続拡散法(CCDD)を提案する。
論文 参考訳(メタデータ) (2025-10-03T17:44:41Z) - Continuously Augmented Discrete Diffusion model for Categorical Generative Modeling [87.34677262370924]
標準離散拡散モデルは、吸収[MASK]トークンにそれらをマッピングすることで、すべての観測されていない状態を同一に扱う。
これは'インフォメーション・ヴォイド'を生成します。そこでは、偽のトークンから推測できるセマンティック情報は、デノイングステップの間に失われます。
連続的拡張離散拡散(Continuously Augmented Discrete Diffusion)は、連続的な潜在空間における対拡散で離散状態空間を拡大するフレームワークである。
論文 参考訳(メタデータ) (2025-10-01T18:00:56Z) - Unifying Continuous and Discrete Text Diffusion with Non-simultaneous Diffusion Processes [9.29387855908007]
NeoDiffは、離散的アプローチと連続的アプローチの両方の長所を統合する、新しい拡散モデルである。
我々のアプローチは、テキスト生成のためのより原理的で効果的なフレームワークを提供する、離散的かつ連続的な拡散モデルの理論を統一する。
論文 参考訳(メタデータ) (2025-05-28T09:28:52Z) - Generalized Interpolating Discrete Diffusion [65.74168524007484]
仮面拡散はその単純さと有効性のために一般的な選択である。
ノイズ発生過程の設計において、より柔軟性の高い離散拡散(GIDD)を補間する新しいファミリを一般化する。
GIDDの柔軟性をエクスプロイトし、マスクと均一ノイズを組み合わせたハイブリッドアプローチを探索し、サンプル品質を向上する。
論文 参考訳(メタデータ) (2025-03-06T14:30:55Z) - Unified Discrete Diffusion for Categorical Data [37.56355078250024]
離散拡散のためのより正確で容易に最適なトレーニングを可能にする変分下界の数学的単純化について述べる。
本稿では, 精密かつ高速なサンプリングが可能な後方復調法と, 離散時間および連続時間離散拡散のエレガントな統一法を導出する。
論文 参考訳(メタデータ) (2024-02-06T04:42:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。