論文の概要: Parallel simulation for sampling under isoperimetry and score-based diffusion models

• arxiv url: http://arxiv.org/abs/2412.07435v2
• Date: Thu, 12 Dec 2024 13:48:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-13 13:50:06.478436
• Title: Parallel simulation for sampling under isoperimetry and score-based diffusion models
• Title（参考訳）: 同調度とスコアベース拡散モデルによるサンプリングの並列シミュレーション
• Authors: Huanjian Zhou, Masashi Sugiyama,
• Abstract要約: データサイズが大きくなるにつれて、イテレーションコストの削減が重要な目標になります。 科学計算における初期値問題の並列シミュレーションの成功に触発されて,タスクをサンプリングするための並列Picard法を提案する。 本研究は,動力学に基づくサンプリング・拡散モデルの科学的計算におけるシミュレーション手法の潜在的利点を強調した。
• 参考スコア（独自算出の注目度）: 56.39904484784127
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In recent years, there has been a surge of interest in proving discretization bounds for sampling under isoperimetry and for diffusion models. As data size grows, reducing the iteration cost becomes an important goal. Inspired by the great success of the parallel simulation of the initial value problem in scientific computation, we propose parallel Picard methods for sampling tasks. Rigorous theoretical analysis reveals that our algorithm achieves better dependence on dimension $d$ than prior works in iteration complexity (i.e., reduced from $\widetilde{O}(\log^2 d)$ to $\widetilde{O}(\log d)$), which is even optimal for sampling under isoperimetry with specific iteration complexity. Our work highlights the potential advantages of simulation methods in scientific computation for dynamics-based sampling and diffusion models.
• Abstract（参考訳）: 近年,イソペリメトリおよび拡散モデルの下でのサンプリングにおける離散化境界の証明への関心が高まっている。 データサイズが大きくなるにつれて、イテレーションコストの削減が重要な目標になります。 科学計算における初期値問題の並列シミュレーションの大成功に触発されて,タスクをサンプリングするための並列Picard法を提案する。 厳密な理論解析により、我々のアルゴリズムは、反復複雑性の以前の作業よりも次元$d$(つまり、$\widetilde{O}(\log^2 d)$から$\widetilde{O}(\log d)$へ還元される)により良い依存を達成できることが分かる。 本研究は,動力学に基づくサンプリング・拡散モデルの科学的計算におけるシミュレーション手法の潜在的利点を強調した。

関連論文リスト

• Nested Slice Sampling: Vectorized Nested Sampling for GPU-Accelerated Inference [0.4999814847776097]
  本稿では,Nested Slice Smpling (NSS)について紹介する。 チューニング解析により、スライス幅の設定、高次元の挙動の改善、ステップごとの計算をより予測可能な簡単な準最適ルールが得られる。
  論文  参考訳（メタデータ） (2026-01-30T18:20:32Z)
• Fast Gibbs Sampling on Bayesian Hidden Markov Model with Missing Observations [0.30586855806896046]
  隠れマルコフモデル(英語: Hidden Markov Model、MM)は、シーケンシャルデータを扱うための広く使われている統計モデルである。 実世界のデータセットに欠落した観測は、しばしば数値シミュレーションや実データに現れる。 本稿では,欠落するエントリ数と多くの時間的複雑さの両方を推定するアルゴリズムを提案する。 提案アルゴリズムは,理論上,理論的に正当化可能な,より大きな有効サンプルサイズ(ESS)を要約毎に生成する。
  論文  参考訳（メタデータ） (2026-01-04T09:10:43Z)
• Mean-Field Simulation-Based Inference for Cosmological Initial Conditions [4.520518890664213]
  フーリエ空間における対角ガウス場に対する初期物質密度場の後方分布をモデル化したベイズ場再構成法を提案する。 トレーニングとサンプリングは非常に速い(トレーニング: $sim 1, Mathrmh$ on a GPU, sample: $lesssim 3, Mathrms$ for 1000 sample at resolution $1283$)。
  論文  参考訳（メタデータ） (2024-10-21T09:23:50Z)
• Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
  本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。 後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。 本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
  論文  参考訳（メタデータ） (2024-06-19T01:57:21Z)
• Accelerating Diffusion Models with Parallel Sampling: Inference at Sub-Linear Time Complexity [11.71206628091551]
  拡散モデルは、訓練と評価に費用がかかるため、拡散モデルの推論コストを削減することが大きな目標である。 並列サンプリング手法であるHh2024parallelを用いて拡散モデルを高速化する実験的な成功に触発されて,サンプリングプロセスを各ブロック内に並列化可能なPicard繰り返しを持つ$mathcalO(1)$ブロックに分割することを提案する。 我々の結果は、高速で効率的な高次元データサンプリングの可能性に光を当てた。
  論文  参考訳（メタデータ） (2024-05-24T23:59:41Z)
• Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
  シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。 本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。 提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
  論文  参考訳（メタデータ） (2024-04-11T09:23:36Z)
• Sample-Efficient "Clustering and Conquer" Procedures for Parallel Large-Scale Ranking and Selection [3.913403111891027]
  並列コンピューティングにおいてよく使われる「分割と征服」フレームワークを,相関に基づくクラスタリングのステップを追加して修正する。 この一見単純な修正は、広く使われているサンプル最適化R&Sプロシージャのクラスに対して、$mathcalO(p)$のサンプル複雑性の減少をもたらす。 ニューラルネットワーク探索のような大規模AIアプリケーションでは,本手法は優れた性能を示す。
  論文  参考訳（メタデータ） (2024-02-03T15:56:03Z)
• Stochastic Optimization for Non-convex Problem with Inexact Hessian Matrix, Gradient, and Function [99.31457740916815]
  信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。 TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
  論文  参考訳（メタデータ） (2023-10-18T10:29:58Z)
• Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood Estimation for Latent Gaussian Models [69.22568644711113]
  我々は,モンテカルロサンプリングと反復線形解法を組み合わせた確率的アンローリングを導入し,行列逆転を回避した。 理論的解析により,解法の繰り返しによる解法の解法と逆転が最大値推定の勾配推定を高速化することを示した。 シミュレーションおよび実データ実験において、確率的アンロールは、モデル性能の損失を最小限に抑えながら、勾配EMよりも桁違いに高速な潜在ガウスモデルを学習することを示した。
  論文  参考訳（メタデータ） (2023-06-05T21:08:34Z)
• Generative modeling of time-dependent densities via optimal transport and projection pursuit [3.069335774032178]
  本稿では,時間的モデリングのための一般的なディープラーニングアルゴリズムの代替として,安価に提案する。 我々の手法は最先端の解法と比較して非常に競争力がある。
  論文  参考訳（メタデータ） (2023-04-19T13:50:13Z)
• Neural Posterior Estimation with Differentiable Simulators [58.720142291102135]
  微分可能シミュレータを用いてニューラル・ポストミラー推定(NPE)を行う新しい手法を提案する。 勾配情報が後部形状の制約にどのように役立ち、試料効率を向上させるかを示す。
  論文  参考訳（メタデータ） (2022-07-12T16:08:04Z)
• Faster One-Sample Stochastic Conditional Gradient Method for Composite Convex Minimization [61.26619639722804]
  滑らかで非滑らかな項の和として形成される凸有限サム目標を最小化するための条件勾配法(CGM)を提案する。 提案手法は, 平均勾配 (SAG) 推定器を備え, 1回に1回のサンプルしか必要としないが, より高度な分散低減技術と同等の高速収束速度を保証できる。
  論文  参考訳（メタデータ） (2022-02-26T19:10:48Z)
• Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
  ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。 そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
  論文  参考訳（メタデータ） (2021-08-25T21:30:27Z)
• Revisiting the Sample Complexity of Sparse Spectrum Approximation of Gaussian Processes [60.479499225746295]
  本稿では,ガウス過程に対して,パラメータ空間全体に対して同時に保持可能な保証付きスケーラブルな近似を導入する。 我々の近似は、スパーススペクトルガウス過程(SSGP)のための改良されたサンプル複雑性解析から得られる。
  論文  参考訳（メタデータ） (2020-11-17T05:41:50Z)
• Non-Adaptive Adaptive Sampling on Turnstile Streams [57.619901304728366]
  カラムサブセット選択、部分空間近似、射影クラスタリング、および空間サブリニアを$n$で使用するターンタイルストリームのボリュームに対する最初の相対エラーアルゴリズムを提供する。 我々の適応的なサンプリング手法は、様々なデータ要約問題に多くの応用をもたらしており、これは最先端を改善するか、より緩和された行列列モデルで以前に研究されただけである。
  論文  参考訳（メタデータ） (2020-04-23T05:00:21Z)
• Ensemble Slice Sampling: Parallel, black-box and gradient-free inference for correlated & multimodal distributions [0.0]
  スライスサンプリング (Slice Sampling) は、最小ハンドチューニングで目標分布の特性に適応するマルコフ連鎖モンテカルロアルゴリズムとして登場した。 本稿では,初期長さ尺度を適応的に調整することで,そのような困難を回避できるアルゴリズムであるEnsemble Slice Sampling(ESS)を紹介する。 これらのアフィン不変アルゴリズムは簡単に構築でき、手作業で調整する必要がなく、並列計算環境で容易に実装できる。
  論文  参考訳（メタデータ） (2020-02-14T19:00:12Z)
• Accelerating Feedforward Computation via Parallel Nonlinear Equation Solving [106.63673243937492]
  ニューラルネットワークの評価や自己回帰モデルからのサンプリングなどのフィードフォワード計算は、機械学習においてユビキタスである。 本稿では,非線形方程式の解法としてフィードフォワード計算の課題を定式化し,ジャコビ・ガウス・シーデル固定点法とハイブリッド法を用いて解を求める。 提案手法は, 並列化可能な繰り返し回数の削減(あるいは等値化)により, 元のフィードフォワード計算と全く同じ値が与えられることを保証し, 十分な並列化計算能力を付与する。
  論文  参考訳（メタデータ） (2020-02-10T10:11:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。