論文の概要: Accelerate Langevin Sampling with Birth-Death process and Exploration Component

• arxiv url: http://arxiv.org/abs/2305.05529v1
• Date: Sat, 6 May 2023 23:52:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-10 12:21:17.991361
• Title: Accelerate Langevin Sampling with Birth-Death process and Exploration Component
• Title（参考訳）: 生死過程と探索成分によるランジェヴィンサンプリングの高速化
• Authors: Lezhi Tan and Jianfeng Lu
• Abstract要約: 本研究では,出生死過程と探索成分を両立させる新しいサンプリング手法を提案する。 このメソッドの主なアイデアは、ジャンプする前のtextitlookです。 平均場限界を導出し、探索プロセスがサンプリング効率をどのように決定するかを示す。
• 参考スコア（独自算出の注目度）: 7.075259070586215
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Sampling a probability distribution with known likelihood is a fundamental task in computational science and engineering. Aiming at multimodality, we propose a new sampling method that takes advantage of both birth-death process and exploration component. The main idea of this method is \textit{look before you leap}. We keep two sets of samplers, one at warmer temperature and one at original temperature. The former one serves as pioneer in exploring new modes and passing useful information to the other, while the latter one samples the target distribution after receiving the information. We derive a mean-field limit and show how the exploration process determines sampling efficiency. Moreover, we prove exponential asymptotic convergence under mild assumption. Finally, we test on experiments from previous literature and compared our methodology to previous ones.
• Abstract（参考訳）: 確率分布を既知の確率でサンプリングすることは、計算科学と工学の基本的な課題である。 マルチモーダル性に着目し,出生死過程と探索成分を両立させた新しいサンプリング手法を提案する。 このメソッドの主なアイデアは \textit{look before you leap} である。 サンプルを2セット保存します。1セットは温暖化、もう1セットは温暖化です。 前者は新しいモードを探索し、他のモードに有用な情報を渡す先駆者となり、後者は情報を受け取った後にターゲットの分布をサンプリングする。 平均場限界を導出し,探索過程がサンプリング効率をどのように決定するかを示す。 さらに,軽度仮定下で指数漸近収束を証明した。 最後に,過去の文献から実験を行い,その方法論を以前の文献と比較した。

関連論文リスト

• Self-Guided Generation of Minority Samples Using Diffusion Models [57.319845580050924]
  データ多様体の低密度領域に居住する少数サンプルを生成するための新しい手法を提案する。 我々のフレームワークは拡散モデルに基づいて構築されており、ガイドドサンプリングの原理を生かしている。 実データセットのベンチマーク実験により、我々のアプローチは現実的な低自由度マイノリティインスタンスを作成する能力を大幅に改善できることが示された。
  論文  参考訳（メタデータ） (2024-07-16T10:03:29Z)
• Efficient Multimodal Sampling via Tempered Distribution Flow [11.36635610546803]
  我々はTemperFlowと呼ばれる新しいタイプのトランスポートベースサンプリング手法を開発した。 種々の実験により, 従来の手法と比較して, 新規サンプリング器の優れた性能が示された。 画像生成などの最新のディープラーニングタスクに応用例を示す。
  論文  参考訳（メタデータ） (2023-04-08T06:40:06Z)
• Multimodal sensor fusion in the latent representation space [4.132799233018846]
  学習データからマルチモーダル生成モデルを構築する。 第2段階では、生成モデルは、センサー融合タスクの事前と探索多様体の再構成として機能する。 マルチモーダル核融合実験における有効性と優れた性能を示す。
  論文  参考訳（メタデータ） (2022-08-03T16:13:24Z)
• Diverse Human Motion Prediction via Gumbel-Softmax Sampling from an Auxiliary Space [34.83587750498361]
  多様な人間の動き予測は、観測されたポーズのシーケンスから、複数の将来のポーズシーケンスを予測することを目的としている。 従来のアプローチでは、通常、データの条件分布をモデル化するために深い生成ネットワークを使用し、その後、分布からランダムにサンプル結果を得る。 不均衡なマルチモーダル分布から非常に多様な結果をサンプリングするための新しいサンプリング手法を提案する。
  論文  参考訳（メタデータ） (2022-07-15T09:03:57Z)
• Saliency Grafting: Innocuous Attribution-Guided Mixup with Calibrated Label Mixing [104.630875328668]
  ミックスアップスキームは、強化されたトレーニングサンプルを作成するために、サンプルのペアを混ぜることを提案する。 両世界のベストを捉えた、斬新だがシンプルなミックスアップ版を提示する。
  論文  参考訳（メタデータ） (2021-12-16T11:27:48Z)
• Sensing Cox Processes via Posterior Sampling and Positive Bases [56.82162768921196]
  本研究では,空間統計学から広く用いられている点過程の適応センシングについて検討する。 我々は、この強度関数を、特別に構築された正の基底で表される、歪んだガウス過程のサンプルとしてモデル化する。 我々の適応センシングアルゴリズムはランゲヴィン力学を用いており、後続サンプリング(textscCox-Thompson)と後続サンプリング(textscTop2)の原理に基づいている。
  論文  参考訳（メタデータ） (2021-10-21T14:47:06Z)
• Residual Overfit Method of Exploration [78.07532520582313]
  提案手法は,2点推定値の調整と1点オーバーフィットに基づく近似探索手法を提案する。 このアプローチは、調整されたモデルと比較して、オーバーフィットモデルが最も過度な適合を示すアクションへの探索を促進する。 ROMEを3つのデータセット上の確立されたコンテキスト的帯域幅法と比較し、最も優れたパフォーマンスの1つとみなす。
  論文  参考訳（メタデータ） (2021-10-06T17:05:33Z)
• Beyond Farthest Point Sampling in Point-Wise Analysis [52.218037492342546]
  本稿では,ポイントワイズ分析タスクのための新しいデータ駆動型サンプル学習手法を提案する。 我々はサンプルと下流のアプリケーションを共同で学習する。 実験により, 従来のベースライン法に比べて, サンプルとタスクの同時学習が顕著に改善することが示された。
  論文  参考訳（メタデータ） (2021-07-09T08:08:44Z)
• Sampling Algorithms, from Survey Sampling to Monte Carlo Methods: Tutorial and Literature Review [11.927558300854656]
  最初のタイプは、集合や集団からサンプルを抽出するサーベイサンプリングである。 第2のタイプは、確率密度または質量関数を持つ確率分布からのサンプリングである。 この論文は統計学、機械学習、強化学習、計算物理学の様々な分野に有用である。
  論文  参考訳（メタデータ） (2020-11-02T11:27:23Z)
• Understanding and Mitigating the Limitations of Prioritized Experience Replay [46.663239542920984]
  優先順位付け再生体験(ER)は、多くのドメインでサンプル効率を改善するために実証的に示されている。 平均二乗誤差に対する誤差に基づく優先サンプリング法と立方体電力損失に対する一様サンプリング法との等価性を示す。 次に,早期学習における一様サンプリングによる収束率の向上について理論的考察を行った。
  論文  参考訳（メタデータ） (2020-07-19T03:10:02Z)
• The Simulator: Understanding Adaptive Sampling in the Moderate-Confidence Regime [52.38455827779212]
  エミュレータと呼ばれる適応サンプリングを解析するための新しい手法を提案する。 適切なログファクタを組み込んだトップk問題の最初のインスタンスベースの下位境界を証明します。 我々の新しい分析は、後者の問題に対するこの種の最初のエミュレータであるベストアームとトップkの識別に、シンプルでほぼ最適であることを示した。
  論文  参考訳（メタデータ） (2017-02-16T23:42:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。