論文の概要: Approximate Stein Classes for Truncated Density Estimation
- arxiv url: http://arxiv.org/abs/2306.00602v1
- Date: Thu, 1 Jun 2023 12:18:58 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-02 16:23:10.170590
- Title: Approximate Stein Classes for Truncated Density Estimation
- Title(参考訳): 縮尺密度推定のための近似ステインクラス
- Authors: Daniel J. Williams, Song Liu
- Abstract要約: これらのモデルは、難解な正規化定数を持ち、境界条件を満たすことが難しいため、切り離された密度モデルの推定は困難である。
近似的なスタイン類を提案するが、これは従って縮約された密度推定に対する緩和されたスタイン恒等式をもたらす。
我々は,事前に重み付け関数を固定する必要のない,新しい離散性尺度であるカーネル化Steindisrepancy(TKSD)を開発した。
- 参考スコア(独自算出の注目度): 3.405431122165563
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Estimating truncated density models is difficult, as these models have
intractable normalising constants and hard to satisfy boundary conditions.
Score matching can be adapted to solve the truncated density estimation
problem, but requires a continuous weighting function which takes zero at the
boundary and is positive elsewhere. Evaluation of such a weighting function
(and its gradient) often requires a closed-form expression of the truncation
boundary and finding a solution to a complicated optimisation problem. In this
paper, we propose approximate Stein classes, which in turn leads to a relaxed
Stein identity for truncated density estimation. We develop a novel discrepancy
measure, truncated kernelised Stein discrepancy (TKSD), which does not require
fixing a weighting function in advance, and can be evaluated using only samples
on the boundary. We estimate a truncated density model by minimising the
Lagrangian dual of TKSD. Finally, experiments show the accuracy of our method
to be an improvement over previous works even without the explicit functional
form of the boundary.
- Abstract(参考訳): これらのモデルは、難解な正規化定数を持ち、境界条件を満たすのが困難である。
スコアマッチングは、断続的な密度推定問題を解くために適用できるが、境界でゼロで他の場所では正である連続的な重み付け関数を必要とする。
このような重み関数(とその勾配)の評価には、しばしば切断境界の閉形式表現と複雑な最適化問題の解を求める必要がある。
本稿では, 閉包密度推定のための緩和されたスタイン恒等式を導出する近似シュタインクラスを提案する。
重み付け関数の修正を事前に必要とせず,境界上のサンプルのみを用いて評価可能な,新しい不一致尺度であるtksd(truncated kernelized stein discrepancy)を開発した。
我々は, tksd のラグランジュ双対を最小化することで, 断続密度モデルを推定する。
最後に, 境界の明示的な機能形式がなくても, 従来の手法よりも精度が向上することを示す実験を行った。
関連論文リスト
- Regulating Model Reliance on Non-Robust Features by Smoothing Input Marginal Density [93.32594873253534]
信頼できる機械学習は、非ロバストな特徴に依存するモデルの厳密な規制を必要とする。
本稿では,モデル予測を入力に関連付けることによって,そのような特徴を記述・規制するフレームワークを提案する。
論文 参考訳(メタデータ) (2024-07-05T09:16:56Z) - Adaptive learning of density ratios in RKHS [3.047411947074805]
有限個の観測から2つの確率密度の比を推定することは、機械学習と統計学における中心的な問題である。
我々は、再生カーネルヒルベルト空間における真の密度比とモデルの間の正規化ブレグマン偏差を最小化する大規模な密度比推定法を分析する。
論文 参考訳(メタデータ) (2023-07-30T08:18:39Z) - Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳(メタデータ) (2023-07-25T18:47:53Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z) - Meta-Learning for Relative Density-Ratio Estimation [59.75321498170363]
相対密度比推定(DRE)の既存の方法は、両方の密度から多くのインスタンスを必要とする。
本稿では,関係データセットの知識を用いて,相対密度比を数例から推定する,相対DREのメタラーニング手法を提案する。
提案手法の有効性を,相対的DRE,データセット比較,外乱検出の3つの問題を用いて実証的に実証した。
論文 参考訳(メタデータ) (2021-07-02T02:13:45Z) - Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。
彼らは不利な姿勢と収束の不安定さに悩まされる。
本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
論文 参考訳(メタデータ) (2021-06-06T18:05:02Z) - Continuous Wasserstein-2 Barycenter Estimation without Minimax
Optimization [94.18714844247766]
ワッサーシュタイン・バリセンターは、最適輸送に基づく確率測度の重み付き平均の幾何学的概念を提供する。
本稿では,Wasserstein-2 バリセンタのサンプルアクセスを演算するスケーラブルなアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-02T21:01:13Z) - Learning the Stein Discrepancy for Training and Evaluating Energy-Based
Models without Sampling [30.406623987492726]
非正規化密度モデルの評価と訓練のための新しい手法を提案する。
データ密度$p(x)$とデータのベクトル関数で定義されるモデル密度$q(x)$とのスタイン差を推定する。
これは、既存の手法を高次元データで上回る、新しい適合性テストをもたらす。
論文 参考訳(メタデータ) (2020-02-13T16:39:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。