論文の概要: Exploring Non-Convex Discrete Energy Landscapes: A Langevin-Like Sampler with Replica Exchange

• arxiv url: http://arxiv.org/abs/2501.17323v1
• Date: Tue, 28 Jan 2025 22:27:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-30 15:54:43.472176
• Title: Exploring Non-Convex Discrete Energy Landscapes: A Langevin-Like Sampler with Replica Exchange
• Title（参考訳）: 非凸離散型エネルギー景観探査:レプリカ交換型ランゲヴィンライクサンプリング
• Authors: Haoyang Zheng, Ruqi Zhang, Guang Lin,
• Abstract要約: グラディエントベース離散サンプリング器(GDS)は離散エネルギーのサンプリングに有効である。 Replica EXEchang Langevin (DREXEL) サンプルと, ステップエクスプロイト (DREAM) を用いたその変種について紹介する。 これらのサンプルは異なる温度で2つのGDSを使用し、離散エネルギーをサンプリングする。
• 参考スコア（独自算出の注目度）: 14.13140047971282
• License:
• Abstract: Gradient-based Discrete Samplers (GDSs) are effective for sampling discrete energy landscapes. However, they often stagnate in complex, non-convex settings. To improve exploration, we introduce the Discrete Replica EXchangE Langevin (DREXEL) sampler and its variant with Adjusted Metropolis (DREAM). These samplers use two GDSs at different temperatures and step sizes: one focuses on local exploitation, while the other explores broader energy landscapes. When energy differences are significant, sample swaps occur, which are determined by a mechanism tailored for discrete sampling to ensure detailed balance. Theoretically, we prove both DREXEL and DREAM converge asymptotically to the target energy and exhibit faster mixing than a single GDS. Experiments further confirm their efficiency in exploring non-convex discrete energy landscapes.
• Abstract（参考訳）: 勾配型離散サンプリング器(GDS)は離散エネルギー景観のサンプリングに有効である。 しかし、それらは複雑で非凸的な設定でしばしば停滞する。 調査を改善するため,DREAM(Adjusted Metropolis)を用いたDrete Replica EXchangE Langevin (DREXEL) サンプル装置について紹介した。 これらのサンプルは、異なる温度とステップサイズで2つのGDSを使用し、1つは局所的な利用に焦点を当て、もう1つはより広いエネルギー景観を探索する。 エネルギー差が顕著な場合、サンプルスワップが発生し、これは詳細なバランスを確保するために離散サンプリング用に調整されたメカニズムによって決定される。 理論的には、DREXELとDREAMの両方が漸近的に目標エネルギーに収束し、単一のGDSよりも高速な混合を示す。 実験は、非凸な離散的なエネルギー景観を探索する際の効率をさらに確認する。

関連論文リスト

• BNEM: A Boltzmann Sampler Based on Bootstrapped Noised Energy Matching [29.531531253864753]
  ボルツマン分布からサンプリングしたデータの代わりにエネルギー関数を与えられたニューラルサンプリングを学習する。 本稿では, 拡散型サンプリング装置であるノイズエネルギーマッチングを提案し, 理論的には分散度を低くし, 複雑さを増す。 実験の結果,BNEMはより堅牢でありながら最先端の性能を達成できることが示された。
  論文  参考訳（メタデータ） (2024-09-15T16:41:30Z)
• Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
  反復Denoising Energy Matching (iDEM) iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。 提案手法は,全測定値の最先端性能を達成し,2～5倍の速さでトレーニングを行う。
  論文  参考訳（メタデータ） (2024-02-09T01:11:23Z)
• A Block Metropolis-Hastings Sampler for Controllable Energy-based Text Generation [78.81021361497311]
  我々は,大規模言語モデルの反復的プロンプトを通じて,各ステップにおけるシーケンス全体の書き直しを提案する新しいメトロポリス・ハスティングス(MH)サンプリング器を開発した。 対象分布からより効率的かつ正確なサンプリングが可能となり, (b) 事前に固定するのではなく, サンプリング手順により生成長を決定することが可能となった。
  論文  参考訳（メタデータ） (2023-12-07T18:30:15Z)
• Complexity Matters: Rethinking the Latent Space for Generative Modeling [65.64763873078114]
  生成的モデリングにおいて、多くの成功したアプローチは、例えば安定拡散のような低次元の潜在空間を利用する。 本研究では, モデル複雑性の観点から潜在空間を再考することにより, 未探索の話題に光を当てることを目的としている。
  論文  参考訳（メタデータ） (2023-07-17T07:12:29Z)
• Selectively increasing the diversity of GAN-generated samples [8.980453507536017]
  本稿では,GAN生成サンプルの多様性を選択的に向上する手法を提案する。 本研究では,CERN における ALICE 実験のZero Degree Calorimeter から得られたデータをシミュレーションする実生活シナリオとともに,本手法の優位性を示す。
  論文  参考訳（メタデータ） (2022-07-04T16:27:06Z)
• Reparameterized Sampling for Generative Adversarial Networks [71.30132908130581]
  本稿では,マルコフ連鎖をジェネレータの潜在空間に再配置することで,一般依存型提案を可能にする新しいサンプリング手法REP-GANを提案する。 実験的な実験により、我々のREP-GANはサンプル効率を大幅に改善し、同時により良いサンプル品質を得ることを示した。
  論文  参考訳（メタデータ） (2021-07-01T10:34:55Z)
• GANs with Variational Entropy Regularizers: Applications in Mitigating the Mode-Collapse Issue [95.23775347605923]
  深層学習の成功に基づいて、GAN(Generative Adversarial Networks)は、観測されたサンプルから確率分布を学習するための現代的なアプローチを提供する。 GANはしばしば、ジェネレータが入力分布の既存のすべてのモードをキャプチャできないモード崩壊問題に悩まされる。 情報理論のアプローチを採り、生成したサンプルのエントロピーの変動的下限を最大化し、それらの多様性を増大させる。
  論文  参考訳（メタデータ） (2020-09-24T19:34:37Z)
• Lessons Learned from the Training of GANs on Artificial Datasets [0.0]
  GAN(Generative Adversarial Networks)は,近年,現実的な画像の合成において大きな進歩を遂げている。 GANは不適合や過度に適合する傾向があり、分析が困難で制約を受ける。 無限に多くのサンプルがあり、実際のデータ分布は単純である人工データセットでトレーニングする。 GANのトレーニング混合物はネットワークの深さや幅を増大させるよりもパフォーマンスが向上することがわかった。
  論文  参考訳（メタデータ） (2020-07-13T14:51:02Z)
• Discriminator Contrastive Divergence: Semi-Amortized Generative Modeling by Exploring Energy of the Discriminator [85.68825725223873]
  GAN(Generative Adversarial Networks)は、高次元データのモデリングにおいて大きな可能性を秘めている。 本稿では,WGANの識別器の特性を活かした識別器コントラストの多様性について紹介する。 我々は、合成データと実世界の画像生成ベンチマークの両方において、大幅に改善された生成の利点を実証する。
  論文  参考訳（メタデータ） (2020-04-05T01:50:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。