論文の概要: Accelerate Langevin Sampling with Birth-Death Process and Exploration Component
- arxiv url: http://arxiv.org/abs/2305.05529v2
- Date: Tue, 03 Jun 2025 06:07:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-05 04:22:50.292898
- Title: Accelerate Langevin Sampling with Birth-Death Process and Exploration Component
- Title(参考訳): 生死過程と探索成分によるランゲヴィンサンプリングの高速化
- Authors: Lezhi Tan, Jianfeng Lu,
- Abstract要約: 本研究では,出生死過程と探索成分を両立させる新しいサンプリング手法を提案する。
この方法の主なアイデアは、ジャンプする前に見ることです。
平均場限界を導出し、探索成分がサンプリング過程をいかに加速するかを示す。
- 参考スコア(独自算出の注目度): 5.266892492931388
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sampling a probability distribution with known likelihood is a fundamental task in computational science and engineering. Aiming at multimodality, we propose a new sampling method that takes advantage of both birth-death process and exploration component. The main idea of this method is look before you leap. We keep two sets of samplers, one at warmer temperature and one at original temperature. The former one serves as pioneer in exploring new modes and passing useful information to the other, while the latter one samples the target distribution after receiving the information. We derive a mean-field limit and show how the exploration component accelerates the sampling process. Moreover, we prove exponential asymptotic convergence under mild assumption. Finally, we test on experiments from previous literature and compare our methodology to previous ones.
- Abstract(参考訳): 確率分布を既知の確率でサンプリングすることは、計算科学と工学の基本的な課題である。
マルチモーダル性に着目し,出生死過程と探索成分を両立させた新しいサンプリング手法を提案する。
この方法の主なアイデアは、ジャンプする前に見ることです。
サンプルを2セット保存します。1セットは温暖化、もう1セットは温暖化です。
前者は新しいモードを探索し、有用な情報をもう一方に渡すパイオニアとして機能し、後者は情報を受け取った後にターゲット分布をサンプリングする。
平均場限界を導出し、探索成分がサンプリング過程をいかに加速するかを示す。
さらに,軽度の仮定で指数的漸近収束を証明した。
最後に、過去の文献からの実験を検証し、方法論を以前の文献と比較する。
関連論文リスト
- Single-Step Consistent Diffusion Samplers [8.758218443992467]
既存のサンプリングアルゴリズムは通常、高品質なサンプルを作成するために多くの反復的なステップを必要とする。
単一ステップで高忠実度サンプルを生成するために設計された新しいサンプルクラスである,一貫した拡散サンプリングを導入している。
提案手法は,従来の拡散サンプリング装置で要求されるネットワーク評価の1%以下を用いて,高忠実度サンプルが得られることを示す。
論文 参考訳(メタデータ) (2025-02-11T14:25:52Z) - Information-Theoretic Proofs for Diffusion Sampling [13.095978794717007]
本稿では, 拡散法に基づくジェネレーティブ・モデリング手法の基本的, 自己完結型分析法を提案する。
拡散ステップサイズが十分に小さい場合、サンプリング分布はターゲット分布に確実に近いことを示す。
また,各ステップに追加のランダム性を導入して,比較過程における高次モーメントに一致させることにより,収束を促進させる方法についての透過的なビューを提供する。
論文 参考訳(メタデータ) (2025-02-04T13:19:21Z) - Self-Guided Generation of Minority Samples Using Diffusion Models [57.319845580050924]
データ多様体の低密度領域に居住する少数サンプルを生成するための新しい手法を提案する。
我々のフレームワークは拡散モデルに基づいて構築されており、ガイドドサンプリングの原理を生かしている。
実データセットのベンチマーク実験により、我々のアプローチは現実的な低自由度マイノリティインスタンスを作成する能力を大幅に改善できることが示された。
論文 参考訳(メタデータ) (2024-07-16T10:03:29Z) - Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。
本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Efficient Multimodal Sampling via Tempered Distribution Flow [11.36635610546803]
我々はTemperFlowと呼ばれる新しいタイプのトランスポートベースサンプリング手法を開発した。
種々の実験により, 従来の手法と比較して, 新規サンプリング器の優れた性能が示された。
画像生成などの最新のディープラーニングタスクに応用例を示す。
論文 参考訳(メタデータ) (2023-04-08T06:40:06Z) - Multimodal sensor fusion in the latent representation space [4.132799233018846]
学習データからマルチモーダル生成モデルを構築する。
第2段階では、生成モデルは、センサー融合タスクの事前と探索多様体の再構成として機能する。
マルチモーダル核融合実験における有効性と優れた性能を示す。
論文 参考訳(メタデータ) (2022-08-03T16:13:24Z) - Diverse Human Motion Prediction via Gumbel-Softmax Sampling from an
Auxiliary Space [34.83587750498361]
多様な人間の動き予測は、観測されたポーズのシーケンスから、複数の将来のポーズシーケンスを予測することを目的としている。
従来のアプローチでは、通常、データの条件分布をモデル化するために深い生成ネットワークを使用し、その後、分布からランダムにサンプル結果を得る。
不均衡なマルチモーダル分布から非常に多様な結果をサンプリングするための新しいサンプリング手法を提案する。
論文 参考訳(メタデータ) (2022-07-15T09:03:57Z) - Saliency Grafting: Innocuous Attribution-Guided Mixup with Calibrated
Label Mixing [104.630875328668]
ミックスアップスキームは、強化されたトレーニングサンプルを作成するために、サンプルのペアを混ぜることを提案する。
両世界のベストを捉えた、斬新だがシンプルなミックスアップ版を提示する。
論文 参考訳(メタデータ) (2021-12-16T11:27:48Z) - Sensing Cox Processes via Posterior Sampling and Positive Bases [56.82162768921196]
本研究では,空間統計学から広く用いられている点過程の適応センシングについて検討する。
我々は、この強度関数を、特別に構築された正の基底で表される、歪んだガウス過程のサンプルとしてモデル化する。
我々の適応センシングアルゴリズムはランゲヴィン力学を用いており、後続サンプリング(textscCox-Thompson)と後続サンプリング(textscTop2)の原理に基づいている。
論文 参考訳(メタデータ) (2021-10-21T14:47:06Z) - Residual Overfit Method of Exploration [78.07532520582313]
提案手法は,2点推定値の調整と1点オーバーフィットに基づく近似探索手法を提案する。
このアプローチは、調整されたモデルと比較して、オーバーフィットモデルが最も過度な適合を示すアクションへの探索を促進する。
ROMEを3つのデータセット上の確立されたコンテキスト的帯域幅法と比較し、最も優れたパフォーマンスの1つとみなす。
論文 参考訳(メタデータ) (2021-10-06T17:05:33Z) - Beyond Farthest Point Sampling in Point-Wise Analysis [52.218037492342546]
本稿では,ポイントワイズ分析タスクのための新しいデータ駆動型サンプル学習手法を提案する。
我々はサンプルと下流のアプリケーションを共同で学習する。
実験により, 従来のベースライン法に比べて, サンプルとタスクの同時学習が顕著に改善することが示された。
論文 参考訳(メタデータ) (2021-07-09T08:08:44Z) - Sampling Algorithms, from Survey Sampling to Monte Carlo Methods:
Tutorial and Literature Review [11.927558300854656]
最初のタイプは、集合や集団からサンプルを抽出するサーベイサンプリングである。
第2のタイプは、確率密度または質量関数を持つ確率分布からのサンプリングである。
この論文は統計学、機械学習、強化学習、計算物理学の様々な分野に有用である。
論文 参考訳(メタデータ) (2020-11-02T11:27:23Z) - Understanding and Mitigating the Limitations of Prioritized Experience
Replay [46.663239542920984]
優先順位付け再生体験(ER)は、多くのドメインでサンプル効率を改善するために実証的に示されている。
平均二乗誤差に対する誤差に基づく優先サンプリング法と立方体電力損失に対する一様サンプリング法との等価性を示す。
次に,早期学習における一様サンプリングによる収束率の向上について理論的考察を行った。
論文 参考訳(メタデータ) (2020-07-19T03:10:02Z) - The Simulator: Understanding Adaptive Sampling in the
Moderate-Confidence Regime [52.38455827779212]
エミュレータと呼ばれる適応サンプリングを解析するための新しい手法を提案する。
適切なログファクタを組み込んだトップk問題の最初のインスタンスベースの下位境界を証明します。
我々の新しい分析は、後者の問題に対するこの種の最初のエミュレータであるベストアームとトップkの識別に、シンプルでほぼ最適であることを示した。
論文 参考訳(メタデータ) (2017-02-16T23:42:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。