論文の概要: Identity Testing for High-Dimensional Distributions via Entropy
Tensorization
- arxiv url: http://arxiv.org/abs/2207.09102v1
- Date: Tue, 19 Jul 2022 06:49:24 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-20 14:41:02.723381
- Title: Identity Testing for High-Dimensional Distributions via Entropy
Tensorization
- Title(参考訳): エントロピーテンソル化による高次元分布のアイデンティティテスト
- Authors: Antonio Blanca, Zongchen Chen, Daniel \v{S}tefankovi\v{c}, Eric Vigoda
- Abstract要約: 我々は,n$次元分布の同一性テスト問題に対して,改良されたアルゴリズムと,統計的および計算的下界の整合性を示す。
同一性テスト問題では、明示的な分布 $mu$, $varepsilon>0$, and access to a sample oracle for a hidden distribution $pi$ が与えられる。
エントロピーの近似テンソル化として知られる解析的性質が可視分布の$mu$に対して成り立つならば、$tildeO(n/vareps)を使用する隠された$pi$に対して効率的なアイデンティティテストアルゴリズムが存在することを証明している。
- 参考スコア(独自算出の注目度): 4.370097023410272
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present improved algorithms and matching statistical and computational
lower bounds for the problem of identity testing $n$-dimensional distributions.
In the identity testing problem, we are given as input an explicit distribution
$\mu$, an $\varepsilon>0$, and access to a sampling oracle for a hidden
distribution $\pi$. The goal is to distinguish whether the two distributions
$\mu$ and $\pi$ are identical or are at least $\varepsilon$-far apart. When
there is only access to full samples from the hidden distribution $\pi$, it is
known that exponentially many samples may be needed, and hence previous works
have studied identity testing with additional access to various conditional
sampling oracles. We consider here a significantly weaker conditional sampling
oracle, called the Coordinate Oracle, and provide a fairly complete
computational and statistical characterization of the identity testing problem
in this new model.
We prove that if an analytic property known as approximate tensorization of
entropy holds for the visible distribution $\mu$, then there is an efficient
identity testing algorithm for any hidden $\pi$ that uses
$\tilde{O}(n/\varepsilon)$ queries to the Coordinate Oracle. Approximate
tensorization of entropy is a classical tool for proving optimal mixing time
bounds of Markov chains for high-dimensional distributions, and recently has
been established for many families of distributions via spectral independence.
We complement our algorithmic result for identity testing with a matching
$\Omega(n/\varepsilon)$ statistical lower bound for the number of queries under
the Coordinate Oracle. We also prove a computational phase transition: for
sparse antiferromagnetic Ising models over $\{+1,-1\}^n$, in the regime where
approximate tensorization of entropy fails, there is no efficient identity
testing algorithm unless RP=NP.
- Abstract(参考訳): n$次元分布の同一性テスト問題に対するアルゴリズムの改良と統計的および計算的下限のマッチングについて述べる。
アイデンティティテスト問題では、明示的な分布 $\mu$, $\varepsilon>0$, and access to a sample oracle for a hidden distribution $\pi$ が与えられる。
目標は、$\mu$ と $\pi$ の2つのディストリビューションが同一か、少なくとも$\varepsilon$-far かを区別することである。
隠れ分布の$\pi$から完全なサンプルにしかアクセスできない場合、指数関数的に多くのサンプルが必要になることが知られており、それ故に以前の研究は様々な条件付きサンプリングオラクルへの追加アクセスでアイデンティティテストを研究した。
ここでは、コーディネートオラクルと呼ばれる、かなり弱い条件サンプリングオラクルを検討し、この新しいモデルにおけるアイデンティティテスト問題のかなり完全な計算と統計的な特徴付けを提供する。
エントロピーの近似テンソル化として知られる解析的性質が、可視分布 $\mu$ に対して成り立つならば、座標オラクルに$\tilde{o}(n/\varepsilon)$クエリを使用する隠れた$\pi$ に対する効率的なアイデンティティテストアルゴリズムが存在することが証明される。
エントロピーの近似テンソル化は、高次元分布に対するマルコフ連鎖の最適混合時間境界を証明する古典的なツールであり、近年はスペクトル独立性を通じて分布の多くの族に対して確立されている。
我々は,Oracleのコーディネートの下でのクエリ数に対して,一致する$\Omega(n/\varepsilon)$statistical lowerboundでIDテストのアルゴリズム結果を補完する。
計算位相遷移も証明する:$\{+1,-1\}^n$上のスパース反強磁性イジングモデルに対して、エントロピーの近似テンソル化が失敗する状況では、RP=NPがなければ効率的な恒等性検査アルゴリズムは存在しない。
関連論文リスト
- Dimension-free Private Mean Estimation for Anisotropic Distributions [55.86374912608193]
以前の$mathRd上の分布に関する民間推定者は、次元性の呪いに苦しむ。
本稿では,サンプルの複雑さが次元依存性を改善したアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-11-01T17:59:53Z) - Convergence Analysis of Probability Flow ODE for Score-based Generative Models [5.939858158928473]
確率フローODEに基づく決定論的サンプリング器の収束特性を理論的・数値的両面から検討する。
連続時間レベルでは、ターゲットと生成されたデータ分布の総変動を$mathcalO(d3/4delta1/2)$で表すことができる。
論文 参考訳(メタデータ) (2024-04-15T12:29:28Z) - Transfer Operators from Batches of Unpaired Points via Entropic
Transport Kernels [3.099885205621181]
そこで我々は,最大形推論関数を導出し,計算可能な近似を提案し,それらの特性を解析する。
我々は、ブロック数$N$が無限に近づくと、経験的近似から真の密度を回復できることを示す$Gamma$-convergenceの結果を証明する。
論文 参考訳(メタデータ) (2024-02-13T12:52:41Z) - Testing Closeness of Multivariate Distributions via Ramsey Theory [40.926523210945064]
多次元分布に対する近接性(あるいは等価性)検定の統計的課題について検討する。
具体的には、$mathbf p, mathbf q$ on $mathbb Rd$ に対して、$mathbf p=mathbf q$ と $|mathbf p-mathbf q|_A_k > epsilon$ の2つの未知の分布へのサンプルアクセスが与えられると、$mathbf p=mathbf q$ と $|mathbf p-mathbf q|_A_k > epsilon$ を区別する。
本研究の主な成果は,任意の固定次元におけるサブラーニングサンプルの複雑性を考慮に入れた,この問題に対する最初のクローズネステスタである。
論文 参考訳(メタデータ) (2023-11-22T04:34:09Z) - Identification of Mixtures of Discrete Product Distributions in
Near-Optimal Sample and Time Complexity [6.812247730094931]
任意の$ngeq 2k-1$に対して、サンプルの複雑さとランタイムの複雑さをどうやって達成するかを示す(1/zeta)O(k)$。
また、既知の$eOmega(k)$の下位境界を拡張して、より広い範囲の$zeta$と一致させる。
論文 参考訳(メタデータ) (2023-09-25T09:50:15Z) - Random matrices in service of ML footprint: ternary random features with
no performance loss [55.30329197651178]
我々は、$bf K$ の固有スペクトルが$bf w$ の i.d. 成分の分布とは独立であることを示す。
3次ランダム特徴(TRF)と呼ばれる新しいランダム手法を提案する。
提案したランダムな特徴の計算には乗算が不要であり、古典的なランダムな特徴に比べてストレージに$b$のコストがかかる。
論文 参考訳(メタデータ) (2021-10-05T09:33:49Z) - The Sample Complexity of Robust Covariance Testing [56.98280399449707]
i. i. d.
形式 $Z = (1-epsilon) X + epsilon B$ の分布からのサンプル。ここで $X$ はゼロ平均で未知の共分散である Gaussian $mathcalN(0, Sigma)$ である。
汚染がない場合、事前の研究は、$O(d)$サンプルを使用するこの仮説テストタスクの単純なテスターを与えた。
サンプル複雑性の上限が $omega(d2)$ for $epsilon$ an arbitrarily small constant and $gamma であることを証明します。
論文 参考訳(メタデータ) (2020-12-31T18:24:41Z) - A Randomized Algorithm to Reduce the Support of Discrete Measures [79.55586575988292]
離散確率測度が$N$原子と$n$実数値関数の集合で成り立つと、元の$N$原子の$n+1$の部分集合で支えられる確率測度が存在する。
我々は、負の円錐によるバリセンターの簡単な幾何学的特徴付けを与え、この新しい測度を「グリード幾何学的サンプリング」によって計算するランダム化アルゴリズムを導出する。
次に、その性質を研究し、それを合成および実世界のデータにベンチマークして、$Ngg n$ regimeにおいて非常に有益であることを示す。
論文 参考訳(メタデータ) (2020-06-02T16:38:36Z) - Agnostic Learning of a Single Neuron with Gradient Descent [92.7662890047311]
期待される正方形損失から、最も適合した単一ニューロンを学習することの問題点を考察する。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
論文 参考訳(メタデータ) (2020-05-29T07:20:35Z) - Locally Private Hypothesis Selection [96.06118559817057]
我々は、$mathcalQ$から$p$までの総変動距離が最良の分布に匹敵する分布を出力する。
局所的な差分プライバシーの制約は、コストの急激な増加を引き起こすことを示す。
提案アルゴリズムは,従来手法のラウンド複雑性を指数関数的に改善する。
論文 参考訳(メタデータ) (2020-02-21T18:30:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。