論文の概要: Fixed-point neural samplers on discrete spaces
- arxiv url: http://arxiv.org/abs/2610.01739v1
- Date: Thu, 01 Oct 2026 14:11:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:24.179282
- Title: Fixed-point neural samplers on discrete spaces
- Title(参考訳): 離散空間上の固定点ニューラルサンプリング器
- Abstract要約: 離散非正規分布からサンプリングする固定点ニューラルサンプリング法を提案する。
我々のフレームワークは、マスク付き拡散の上に構築され、また、対の分布間の輸送にも拡張されている。
得られた手法が高次元システムに効果的にスケールできることを実証する。
- 参考スコア(独自算出の注目度): 23.04205410817134
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sampling from discrete, unnormalized distributions without access to data is a challenging problem. Neural samplers offer a promising approach by training generative models from density evaluations directly. Despite recent progress, existing discrete neural samplers are prone to mode collapse, come without convergence guarantees when trained via fixed-point iterations, and are often tied to a specific reference process such as masked or uniform diffusion. In this work, we introduce Discrete Gibbs Iterative Neural Sampler, a fixed-point neural sampler that addresses these limitations, enabling efficient, scalable learning, substantially reducing mode collapse in practice. Our framework builds on masked diffusion and also extends to transport between pairs of distributions. We demonstrate that the resulting method scales effectively to high-dimensional systems, supports amortized sampling across different conditions, and enables accurate estimation of alloy phase diagrams.
- Abstract(参考訳): データにアクセスせずに、離散的で正規化されていないディストリビューションからサンプリングすることは、難しい問題である。
ニューラルサンプリングは、密度評価から直接生成モデルをトレーニングすることで、有望なアプローチを提供する。
近年の進歩にもかかわらず、既存の離散ニューラルサンプリングはモード崩壊する傾向にあり、固定点反復によるトレーニングでは収束保証がなく、マスクや均一拡散のような特定の参照プロセスと結びついていることが多い。
本研究では,これらの制限に対処し,効率的でスケーラブルな学習を可能にし,実際にモード崩壊を大幅に低減する固定点ニューラルサンプリングであるDiscrete Gibbs Iterative Neural Samplerを紹介する。
我々のフレームワークは、マスク付き拡散の上に構築され、また、対の分布間の輸送にも拡張されている。
提案手法は高次元システムに効果的にスケールし, 異なる条件下でのアモルタイズサンプリングをサポートし, 合金相図の正確な推定を可能にする。
関連論文リスト
- Corrected Samplers for Discrete Flow Models [36.348940136801296]
近年の研究では、タウ・リーピングやオイラー・ソルバのような離散拡散モデルのサンプルについて研究されている。
遷移率やソース分布に制限を加えることなく,非漸近的離散化誤差境界を確立する。
位置補正されたサンプリング器は,既存の並列サンプリング器よりも複雑さが低いことを厳密に示す。
論文 参考訳(メタデータ) (2026-01-30T03:53:22Z) - Combating Noisy Labels through Fostering Self- and Neighbor-Consistency [120.4394402099635]
ラベルノイズは様々な現実世界のシナリオで広まり、教師付きディープラーニングの課題を提起する。
我々は、Jo-SNC(textbfSelf- と textbfNeighbor-textbfConsistency に基づくサンプル選択とモデル正規化)というノイズロバスト手法を提案する。
我々は、クラスごとの選択閾値を調整するための自己適応型データ駆動しきい値設定方式を設計する。
論文 参考訳(メタデータ) (2026-01-19T07:55:29Z) - Proximal Diffusion Neural Sampler [45.335824474545795]
経路測度空間上の近点法による最適制御問題に対処するtextbf Proximal Diffusion Neural Sampler (PDNS) というフレームワークを提案する。
PDNSは学習プロセスを一連のより単純なサブプロブレムに分解し、所望の分布に徐々に近づく経路を生成する。
連続的および離散的なサンプリングタスクの広範な実験を通じて,PDNSの有効性とロバスト性を示す。
論文 参考訳(メタデータ) (2025-10-04T14:44:47Z) - Test-Time Anchoring for Discrete Diffusion Posterior Sampling [38.507644561076894]
後方サンプリングは、事前訓練された離散拡散基礎モデルにとって難しい問題である。
マスク拡散基礎モデルのためのAnchored Posterior Smpling (APS) を提案する。
本手法は線形および非線形逆問題に対する離散拡散サンプリング器の最先端性能を実現する。
論文 参考訳(メタデータ) (2025-10-02T17:58:37Z) - Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。
従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。
本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
論文 参考訳(メタデータ) (2025-07-11T08:00:47Z) - Adaptive Destruction Processes for Diffusion Samplers [12.446080077998834]
本稿では,拡散サンプリング装置におけるトレーニング可能な破壊プロセスの課題とメリットについて考察する。
ステップ数に制限がある場合、生成過程と破壊過程の両方を訓練することで、より高速な収束とサンプリング品質の向上が期待できる。
論文 参考訳(メタデータ) (2025-06-02T11:07:27Z) - Quantizing Diffusion Models from a Sampling-Aware Perspective [43.95032520555463]
本稿では,混合次軌道アライメント手法を考案したサンプリング対応量子化手法を提案する。
複数のデータセットにまたがるスパースステップ高速サンプリング実験により,本手法は高速サンプリング器の高速収束特性を保っていることが示された。
論文 参考訳(メタデータ) (2025-05-04T20:50:44Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Improved off-policy training of diffusion samplers [93.66433483772055]
本研究では,非正規化密度やエネルギー関数を持つ分布からサンプルを抽出する拡散モデルの訓練問題について検討する。
シミュレーションに基づく変分法や非政治手法など,拡散構造推論手法のベンチマークを行った。
我々の結果は、過去の研究の主張に疑問を投げかけながら、既存のアルゴリズムの相対的な利点を浮き彫りにした。
論文 参考訳(メタデータ) (2024-02-07T18:51:49Z) - Fast Sampling via Discrete Non-Markov Diffusion Models with Predetermined Transition Time [49.598085130313514]
離散非マルコフ拡散モデル(DNDM)を提案する。
これにより、トレーニング不要なサンプリングアルゴリズムにより、関数評価の数を大幅に削減できる。
有限ステップサンプリングから無限ステップサンプリングへの移行について検討し、離散プロセスと連続プロセスのギャップを埋めるための新たな洞察を提供する。
論文 参考訳(メタデータ) (2023-12-14T18:14:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。