論文の概要: Proposal of a Score Based Approach to Sampling Using Monte Carlo
Estimation of Score and Oracle Access to Target Density
- arxiv url: http://arxiv.org/abs/2212.03325v1
- Date: Tue, 6 Dec 2022 20:56:39 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-08 15:41:07.702522
- Title: Proposal of a Score Based Approach to Sampling Using Monte Carlo
Estimation of Score and Oracle Access to Target Density
- Title(参考訳): monte carlo estimation of scoreとoracle access to target densityを用いたスコアベースサンプリング手法の提案
- Authors: Curtis McDonald and Andrew Barron
- Abstract要約: スコアに基づくサンプリングアプローチは、初期サンプルのプールが与えられた場合、ターゲット密度から新しいサンプルを生成するための生成的アプローチとして成功している。
初期ターゲットのブラックボックスモデルが示されていないか、むしろ$0と$1の価格で検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Score based approaches to sampling have shown much success as a generative
algorithm to produce new samples from a target density given a pool of initial
samples. In this work, we consider if we have no initial samples from the
target density, but rather $0^{th}$ and $1^{st}$ order oracle access to the log
likelihood. Such problems may arise in Bayesian posterior sampling, or in
approximate minimization of non-convex functions. Using this knowledge alone,
we propose a Monte Carlo method to estimate the score empirically as a
particular expectation of a random variable. Using this estimator, we can then
run a discrete version of the backward flow SDE to produce samples from the
target density. This approach has the benefit of not relying on a pool of
initial samples from the target density, and it does not rely on a neural
network or other black box model to estimate the score.
- Abstract(参考訳): サンプリングに対するスコアベースのアプローチは、初期サンプルのプールを与えられたターゲット密度から新しいサンプルを生成する生成アルゴリズムとして成功している。
この作業では、ターゲット密度から最初のサンプルがなければ、oracleにログの確率へのアクセスを命令する代わりに$0^{th}$と$1^{st}$である。
このような問題はベイズ後方サンプリングや非凸関数の近似最小化で生じる。
この知識のみを用いて,確率変数の特定の期待値として経験的にスコアを推定するモンテカルロ法を提案する。
この推定器を使用して、後方流sdeの離散バージョンを実行し、ターゲット密度からサンプルを生成することができる。
このアプローチは、ターゲット密度からの初期サンプルのプールに依存しない利点があり、スコアを推定するためにニューラルネットワークや他のブラックボックスモデルに依存しない。
関連論文リスト
- A Practical Diffusion Path for Sampling [8.174664278172367]
拡散モデルは生成モデルにおいてランゲヴィン過程を導くスコアベクトルを推定するために用いられる。
従来のアプローチはモンテカルロ推定器に依存しており、計算的に計算量が多いか、サンプル非効率である。
そこで我々は,いわゆる拡張経路に依存して,クローズド形式で利用可能なスコアベクトルを生成する,計算的に魅力的な代替案を提案する。
論文 参考訳(メタデータ) (2024-06-20T07:00:56Z) - Closed-Form Diffusion Models [14.818168481641823]
目標分布からのスコアベース生成モデル(SGM)は、目標のスコア関数を用いて反復的に雑音を変換することによってサンプリングされる。
任意の有限トレーニングセットに対して、このスコア関数はクローズドな形式で評価できるが、結果のSGMはそのトレーニングデータを記憶し、新しいサンプルを生成することはない。
そこで本研究では,そのスコア関数の最適近傍推定器を提案する。
論文 参考訳(メタデータ) (2023-10-19T00:45:05Z) - Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳(メタデータ) (2023-07-25T18:47:53Z) - Arbitrary Point Cloud Upsampling with Spherical Mixture of Gaussians [1.2375561840897737]
APU-SMOGはArbitrary Point Cloud Upsampling (APU)のためのTransformerベースのモデルである
APU-SMOGは最先端の固定比法より優れている。
論文 参考訳(メタデータ) (2022-08-10T11:10:16Z) - Convergence for score-based generative modeling with polynomial
complexity [9.953088581242845]
我々は、Scoreベースの生成モデルの背後にあるコアメカニックに対する最初の収束保証を証明した。
以前の作品と比較すると、時間的に指数関数的に増加するエラーや、次元の呪いに苦しむエラーは発生しない。
予測器・相関器はどちらの部分のみを使用するよりも収束性が高いことを示す。
論文 参考訳(メタデータ) (2022-06-13T14:57:35Z) - Boost Test-Time Performance with Closed-Loop Inference [85.43516360332646]
そこで本研究では,モデル性能を高めるために,ループ方式でハードクラス化試験サンプルを予測することを提案する。
まず、追加の推論ループを必要とするハードクラス化テストサンプルを識別するためにフィルタリング基準を考案する。
各ハードサンプルに対して、モデルのキャリブレーションを行うために、元の上位$K$予測に基づいて補助学習タスクを構築する。
論文 参考訳(メタデータ) (2022-03-21T10:20:21Z) - Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。
粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
論文 参考訳(メタデータ) (2021-10-06T16:58:34Z) - Sample Efficient Model Evaluation [30.72511219329606]
ラベルのないデータポイントの集合が与えられた場合、テストメトリクスをベストに見積もるためにどのサブセットを選択するかに対処する。
本稿では, よく知られたImportance Smplingというサンプリングベースアプローチと,Poisson Smplingの新たな応用を提案する。
論文 参考訳(メタデータ) (2021-09-24T16:03:58Z) - Local policy search with Bayesian optimization [73.0364959221845]
強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。
局所探索のための政策勾配は、しばしばランダムな摂動から得られる。
目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
論文 参考訳(メタデータ) (2021-06-22T16:07:02Z) - Learning a Unified Sample Weighting Network for Object Detection [113.98404690619982]
地域サンプリングや重み付けは、現代の地域ベースの物体検出器の成功に極めて重要である。
サンプル重み付けはデータ依存でタスク依存であるべきだと我々は主張する。
サンプルのタスク重みを予測するための統一的なサンプル重み付けネットワークを提案する。
論文 参考訳(メタデータ) (2020-06-11T16:19:16Z) - Distributionally Robust Bayesian Quadrature Optimization [60.383252534861136]
確率分布が未知な分布の不確実性の下でBQOについて検討する。
標準的なBQOアプローチは、固定されたサンプル集合が与えられたときの真の期待目標のモンテカルロ推定を最大化する。
この目的のために,新しい後方サンプリングに基づくアルゴリズム,すなわち分布的に堅牢なBQO(DRBQO)を提案する。
論文 参考訳(メタデータ) (2020-01-19T12:00:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。