論文の概要: Estimation in Tensor Ising Models
- arxiv url: http://arxiv.org/abs/2008.12882v1
- Date: Sat, 29 Aug 2020 00:06:58 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-23 17:38:21.112004
- Title: Estimation in Tensor Ising Models
- Title（参考訳）: テンソルイジングモデルにおける推定
- Authors: Somabha Mukherjee, Jaesung Son, and Bhaswar B. Bhattacharya
- Abstract要約: N$ノード上の分布から1つのサンプルを与えられた$p$-tensor Isingモデルの自然パラメータを推定する問題を考える。
特に、$sqrt N$-consistency of the MPL estimate in the $p$-spin Sherrington-Kirkpatrick (SK) model。
我々は、$p$-tensor Curie-Weiss モデルの特別な場合における MPL 推定の正確なゆらぎを導出する。
- 参考スコア（独自算出の注目度）: 5.161531917413708
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The $p$-tensor Ising model is a one-parameter discrete exponential family for
modeling dependent binary data, where the sufficient statistic is a
multi-linear form of degree $p \geq 2$. This is a natural generalization of the
matrix Ising model, that provides a convenient mathematical framework for
capturing higher-order dependencies in complex relational data. In this paper,
we consider the problem of estimating the natural parameter of the $p$-tensor
Ising model given a single sample from the distribution on $N$ nodes. Our
estimate is based on the maximum pseudo-likelihood (MPL) method, which provides
a computationally efficient algorithm for estimating the parameter that avoids
computing the intractable partition function. We derive general conditions
under which the MPL estimate is $\sqrt N$-consistent, that is, it converges to
the true parameter at rate $1/\sqrt N$. In particular, we show the $\sqrt
N$-consistency of the MPL estimate in the $p$-spin Sherrington-Kirkpatrick (SK)
model, spin systems on general $p$-uniform hypergraphs, and Ising models on the
hypergraph stochastic block model (HSBM). In fact, for the HSBM we pin down the
exact location of the phase transition threshold, which is determined by the
positivity of a certain mean-field variational problem, such that above this
threshold the MPL estimate is $\sqrt N$-consistent, while below the threshold
no estimator is consistent. Finally, we derive the precise fluctuations of the
MPL estimate in the special case of the $p$-tensor Curie-Weiss model. An
interesting consequence of our results is that the MPL estimate in the
Curie-Weiss model saturates the Cramer-Rao lower bound at all points above the
estimation threshold, that is, the MPL estimate incurs no loss in asymptotic
efficiency, even though it is obtained by minimizing only an approximation of
the true likelihood function for computational tractability.
- Abstract（参考訳）: p$-tensor isingモデル(英語版)は依存するバイナリデータをモデル化するための1パラメータの離散指数関数群であり、十分な統計量は次数 $p \geq 2$ の多重線形形式である。
これは行列イジングモデルの自然な一般化であり、複雑な関係データの高階依存を捉えるのに便利な数学的枠組みを提供する。
本稿では,$N$ノード上の分布から1つのサンプルが与えられた場合,$p$-tensor Isingモデルの自然パラメータを推定する問題を考察する。
提案手法は,計算効率のよいパラメータ推定アルゴリズムであり,計算可能な分割関数の計算を避ける。
mpl の推定値が $\sqrt n$ であるような一般的な条件、すなわち 1/\sqrt n$ の真のパラメータに収束する。
特に、p$-spin sherrington-kirkpatrick (sk)モデルにおけるmpl推定の$\sqrt n$-consistency、一般的な$p$-uniformハイパーグラフ上のスピン系、ハイパーグラフ確率ブロックモデル(hsbm)上のイジングモデルを示す。
実際、HSBMでは、ある平均場変動問題の正の値によって決定される位相遷移しきい値の正確な位置を、MPL推定値が$\sqrt N$-consistentであり、しきい値以下では、推定値が一貫しない。
最後に、$p$-tensor Curie-Weiss モデルの特別な場合における MPL 推定の正確な揺らぎを導出する。
その結果,Curie-WeissモデルにおけるMPL推定は,計算的トラクタビリティの真の可能性関数の近似を最小化して得られるにもかかわらず,推定しきい値以上のすべての点において,MPL推定が漸近的効率の損失を生じない,という結果が得られた。
関連論文リスト
- Sample-efficient Learning of Infinite-horizon Average-reward MDPs with General Function Approximation [53.17668583030862]
一般関数近似の文脈において,無限水平平均逆マルコフ決定過程(AMDP)について検討する。
最適化最適化(LOOP)と呼ばれる新しいアルゴリズムフレームワークを提案する。
我々は LOOP がサブ線形 $tildemathcalO(mathrmpoly(d, mathrmsp(V*)) sqrtTbeta )$ regret を達成することを示す。
論文 参考訳（メタデータ） (2024-04-19T06:24:22Z) - Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。
我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
論文 参考訳（メタデータ） (2024-03-08T18:50:19Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳（メタデータ） (2023-01-16T02:57:37Z) - Sharper Analysis for Minibatch Stochastic Proximal Point Methods:
Stability, Smoothness, and Deviation [41.082982732100696]
我々は,凸複合リスク最小化問題の解法として,近位点法(M-SPP)のミニバッチ変種について検討した。
ミニバッチサイズが$n$で二次数が$T$のM-SPPは、予想外収束の速さを楽しむことを示す。
小さい$n$-large-$T$設定では、この結果はSPP型アプローチの最もよく知られた結果を大幅に改善する。
論文 参考訳（メタデータ） (2023-01-09T00:13:34Z) - Policy evaluation from a single path: Multi-step methods, mixing and
mis-specification [45.88067550131531]
無限水平$gamma$-discounted Markov rewardプロセスの値関数の非パラメトリック推定について検討した。
カーネルベースの多段階時間差推定の一般的なファミリーに対して、漸近的でない保証を提供する。
論文 参考訳（メタデータ） (2022-11-07T23:15:25Z) - Single Trajectory Nonparametric Learning of Nonlinear Dynamics [8.438421942654292]
力学系の1つの軌道が与えられた場合、非パラメトリック最小二乗推定器(LSE)の性能を解析する。
我々は最近開発された情報理論手法を活用し、非仮説クラスに対するLSEの最適性を確立する。
我々は、リプシッツ力学、一般化線形モデル、再生ケルネルヒルベルト空間(RKHS)のある種のクラスで記述される関数によって記述される力学など、実用上の関心のあるいくつかのシナリオを専門とする。
論文 参考訳（メタデータ） (2022-02-16T19:38:54Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳（メタデータ） (2021-09-24T14:48:20Z) - Tight Nonparametric Convergence Rates for Stochastic Gradient Descent
under the Noiseless Linear Model [0.0]
このモデルに基づく最小二乗リスクに対する1パス, 固定段差勾配勾配の収束度を解析した。
特殊な場合として、ランダムなサンプリング点における値のノイズのない観測から単位区間上の実関数を推定するオンラインアルゴリズムを解析する。
論文 参考訳（メタデータ） (2020-06-15T08:25:50Z) - Sample Complexity of Asynchronous Q-Learning: Sharper Analysis and
Variance Reduction [63.41789556777387]
非同期Q-ラーニングはマルコフ決定過程(MDP)の最適行動値関数(またはQ-関数)を学習することを目的としている。
Q-関数の入出力$varepsilon$-正確な推定に必要なサンプルの数は、少なくとも$frac1mu_min (1-gamma)5varepsilon2+ fract_mixmu_min (1-gamma)$の順である。
論文 参考訳（メタデータ） (2020-06-04T17:51:00Z) - Breaking the Sample Size Barrier in Model-Based Reinforcement Learning
with a Generative Model [50.38446482252857]
本稿では、生成モデル(シミュレータ)へのアクセスを想定して、強化学習のサンプル効率について検討する。
最初に$gamma$-discounted infinite-horizon Markov decision process (MDPs) with state space $mathcalS$ and action space $mathcalA$を考える。
対象の精度を考慮すれば,モデルに基づく計画アルゴリズムが最小限のサンプルの複雑さを実現するのに十分であることを示す。
論文 参考訳（メタデータ） (2020-05-26T17:53:18Z) - A Precise High-Dimensional Asymptotic Theory for Boosting and
Minimum-$\ell_1$-Norm Interpolated Classifiers [3.167685495996986]
本稿では,分離可能なデータの強化に関する高精度な高次元理論を確立する。
統計モデルのクラスでは、ブースティングの普遍性誤差を正確に解析する。
また, 推力試験誤差と最適ベイズ誤差の関係を明示的に説明する。
論文 参考訳（メタデータ） (2020-02-05T00:24:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。