論文の概要: Partition Function Estimation under Bounded f-Divergence
- arxiv url: http://arxiv.org/abs/2602.23535v1
- Date: Thu, 26 Feb 2026 22:34:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-02 19:48:24.154784
- Title: Partition Function Estimation under Bounded f-Divergence
- Title(参考訳): 境界f-divergenceによる分割関数の推定
- Authors: Adam Block, Abhishek Shetty,
- Abstract要約: 本研究では,提案分布へのサンプルアクセスを前提とした分割関数の推定の統計的複雑さについて検討する。
本結果は, 重要サンプリング, 拒絶, サンプリング, 重み付き平均推定の事前解析を統一し, 一般化するものである。
- 参考スコア(独自算出の注目度): 18.170877027040362
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the statistical complexity of estimating partition functions given sample access to a proposal distribution and an unnormalized density ratio for a target distribution. While partition function estimation is a classical problem, existing guarantees typically rely on structural assumptions about the domain or model geometry. We instead provide a general, information-theoretic characterization that depends only on the relationship between the proposal and target distributions. Our analysis introduces the integrated coverage profile, a functional that quantifies how much target mass lies in regions where the density ratio is large. We show that integrated coverage tightly characterizes the sample complexity of multiplicative partition function estimation and provide matching lower bounds. We further express these bounds in terms of $f$-divergences, yielding sharp phase transitions depending on the growth rate of f and recovering classical results as a special case while extending to heavy-tailed regimes. Matching lower bounds establish tightness in all regimes. As applications, we derive improved finite-sample guarantees for importance sampling and self-normalized importance sampling, and we show a strict separation between the complexity of approximate sampling and counting under the same divergence constraints. Our results unify and generalize prior analyses of importance sampling, rejection sampling, and heavy-tailed mean estimation, providing a minimal-assumption theory of partition function estimation. Along the way we introduce new technical tools including new connections between coverage and $f$-divergences as well as a generalization of the classical Paley-Zygmund inequality.
- Abstract(参考訳): 本研究では,提案分布に対するサンプルアクセスと対象分布に対する非正規化密度比を推定する分割関数の統計的複雑性について検討した。
分割関数の推定は古典的な問題であるが、既存の保証はドメインやモデル幾何学に関する構造的な仮定に依存している。
その代わりに、提案と対象分布の関係にのみ依存する、汎用的で情報理論的な特徴を提供する。
本分析では, 密度比が大きい領域において, 対象質量がどの程度存在するかを定量化する機能である包括被覆プロファイルを導入する。
統合されたカバレッジは、乗法的分割関数推定のサンプルの複雑さを強く特徴付け、一致した下界を提供することを示す。
さらに、これらの境界を$f$-divergencesで表現し、fの成長速度に応じて急激な相転移を生じさせ、重尾型体制に拡張しつつ、古典的な結果を特殊ケースとして回収する。
一致した下限は全ての体制において厳密性を確立する。
応用として、重要サンプリングと自己正規化重要サンプリングの有限サンプル保証を改善し、近似サンプリングの複雑さと同一の分散制約下でのカウントの厳密な分離を示す。
本結果は, 重要サンプリング, 拒絶サンプリング, 重み付き平均推定の事前解析を統一, 一般化し, 分割関数推定の最小推定理論を提供する。
その過程で、カバレッジと$f$-divergencesの新たな接続を含む新しい技術ツールや、古典的なペイリー・ツィーグムントの不等式を一般化する。
関連論文リスト
- Efficient Covariance Estimation for Sparsified Functional Data [51.69796254617083]
共分散関数のランダムノット(ランダムノット-空間)とB-スプライン(Bspline-Spatial)推定器は計算的に効率的である。
共分散の漸近的なポイントワイドは、ある規則性条件下でのスパース化された個々の軌跡に対して得られる。
論文 参考訳(メタデータ) (2025-11-23T00:50:33Z) - Spectral Algorithms in Misspecified Regression: Convergence under Covariate Shift [0.2578242050187029]
スペクトルアルゴリズムは逆問題から派生した正則化手法のクラスである。
本稿では,共変量シフトの下でのスペクトルアルゴリズムの収束特性について検討する。
我々は、ターゲット関数がヒルベルト空間(RKHS)を再現するカーネルに属さない、より困難な不特定ケースの理論解析を提供する。
論文 参考訳(メタデータ) (2025-09-05T13:42:27Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - Optimal Aggregation of Prediction Intervals under Unsupervised Domain Shift [9.387706860375461]
分散シフトは、基礎となるデータ生成プロセスが変化したときに発生し、モデルの性能のずれにつながる。
予測間隔は、その基礎となる分布によって引き起こされる不確実性を特徴づける重要なツールとして機能する。
予測区間を集約し,最小の幅と対象領域を適切にカバーする手法を提案する。
論文 参考訳(メタデータ) (2024-05-16T17:55:42Z) - Trade-off Between Dependence and Complexity for Nonparametric Learning
-- an Empirical Process Approach [10.27974860479791]
データが時間的依存を示す多くのアプリケーションでは、対応する経験的プロセスは理解されていない。
標準的な$beta/rho$-mixingの仮定の下では、経験過程の期待上限に一般化する。
長距離依存下であっても、i.d.設定と同じ速度で達成できることが示される。
論文 参考訳(メタデータ) (2024-01-17T05:08:37Z) - Mean-Square Analysis of Discretized It\^o Diffusions for Heavy-tailed
Sampling [17.415391025051434]
重み付きポインカーの不等式に関連する伊藤拡散の自然クラスを離散化することにより、重み付き分布のクラスからのサンプリングの複雑さを分析する。
平均二乗解析に基づいて、ワッサーシュタイン2計量のターゲット分布に近い分布が$epsilon$のサンプルを得るための反復複雑性を確立する。
論文 参考訳(メタデータ) (2023-03-01T15:16:03Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Robust Estimation for Nonparametric Families via Generative Adversarial
Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。
我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。
技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文 参考訳(メタデータ) (2022-02-02T20:11:33Z) - A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。
ブレグマン最小化の発散の観点から一般的な枠組みを開発する。
我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
論文 参考訳(メタデータ) (2021-12-07T01:23:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。