論文の概要: Proof of the Contiguity Conjecture and Lognormal Limit for the Symmetric
Perceptron
- arxiv url: http://arxiv.org/abs/2102.13069v1
- Date: Thu, 25 Feb 2021 18:39:08 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-26 13:37:50.086698
- Title: Proof of the Contiguity Conjecture and Lognormal Limit for the Symmetric
Perceptron
- Title(参考訳): 対称パーセプトロンに対する連続性予想と対数正規極限の証明
- Authors: Emmanuel Abbe, Shuangping Li, Allan Sly
- Abstract要約: 我々は、ニューラルネットワークの単純なモデルである対称バイナリパーセプトロンモデルを検討する。
このモデルのためのいくつかの予想を確立する。
この証明手法は,小さなグラフ条件付け手法の密な反部分に依存する。
- 参考スコア(独自算出の注目度): 21.356438315715888
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the symmetric binary perceptron model, a simple model of neural
networks that has gathered significant attention in the statistical physics,
information theory and probability theory communities, with recent connections
made to the performance of learning algorithms in Baldassi et al. '15.
We establish that the partition function of this model, normalized by its
expected value, converges to a lognormal distribution. As a consequence, this
allows us to establish several conjectures for this model: (i) it proves the
contiguity conjecture of Aubin et al. '19 between the planted and unplanted
models in the satisfiable regime; (ii) it establishes the sharp threshold
conjecture; (iii) it proves the frozen 1-RSB conjecture in the symmetric case,
conjectured first by Krauth-M\'ezard '89 in the asymmetric case.
In a recent concurrent work of Perkins-Xu [PX21], the last two conjectures
were also established by proving that the partition function concentrates on an
exponential scale. This left open the contiguity conjecture and the lognormal
limit characterization, which are established here. In particular, our proof
technique relies on a dense counter-part of the small graph conditioning
method, which was developed for sparse models in the celebrated work of
Robinson and Wormald.
- Abstract(参考訳): 本研究では,統計物理学,情報理論,確率論コミュニティにおいて重要な注目を集めた,ニューラルネットワークの単純なモデルである対称二項知覚モデルについて考察する。
'15.
このモデルの分割関数は、期待値によって正規化され、対数正規分布に収束する。
結果として、このモデルに対するいくつかの予想を定式化することができる: (i) aubin と al の連続性予想を証明する。
'19 植木モデルと植木モデルの間 (ii) 鋭いしきい値予想を定め、 (iii) 対称の場合では1-rsb予想を解き、非対称の場合ではkrauth-m\'ezard '89 によって最初に予想された。
Perkins-Xu [PX21] の最近の同時作業では、最後の2つの予想もまた、分割関数が指数スケールに集中することを証明することによって確立された。
このことは、ここで確立された連続予想と対数正規極限特徴づけを開放する。
特に,robinson とwormald の有名な業績においてスパースモデルのために開発された small graph conditioning method の濃密なカウンターパートに依存している。
関連論文リスト
- Graph Stochastic Neural Process for Inductive Few-shot Knowledge Graph Completion [63.68647582680998]
I-FKGC(inductive few-shot knowledge graph completion)と呼ばれる課題に焦点をあてる。
帰納的推論(inductive reasoning)の概念に着想を得て,I-FKGCを帰納的推論問題とした。
本稿では,仮説の連成分布をモデル化したニューラルプロセスに基づく仮説抽出器を提案する。
第2のモジュールでは、この仮説に基づいて、クエリセットのトリプルが抽出された仮説と一致するかどうかをテストするグラフアテンションベースの予測器を提案する。
論文 参考訳(メタデータ) (2024-08-03T13:37:40Z) - von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。
後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。
これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
論文 参考訳(メタデータ) (2023-11-08T15:17:13Z) - Entanglement asymmetry in the ordered phase of many-body systems: the
Ising Field Theory [0.0]
量子多体系の大域対称性は自然に破られることがある。
本研究では,特定の領域の絡み合い非対称性について検討する。
また、ツイスト演算子を用いたレプリカ理論における場理論の枠組みも確立する。
論文 参考訳(メタデータ) (2023-07-22T17:07:56Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳(メタデータ) (2023-07-11T16:51:38Z) - Numerically Probing the Universal Operator Growth Hypothesis [0.0]
我々は、この仮説を様々な模範系に対して数値的に検証する。
仮説化された普遍行動の開始は、ハイゼンベルク模型の達成可能な数値データでは観測できなかった。
論文 参考訳(メタデータ) (2022-03-01T15:15:47Z) - Conformal field theory from lattice fermions [77.34726150561087]
1+1次元の格子フェルミオンで与えられる共形場理論の厳密な格子近似を提供する。
これらの結果が共形場理論の量子シミュレーションに関連する明らかな誤差推定にどのように結びつくかを示す。
論文 参考訳(メタデータ) (2021-07-29T08:54:07Z) - Counterexamples to the Low-Degree Conjecture [80.3668228845075]
ホプキンスの予想は、ある高次元仮説テスト問題に対して、非時間アルゴリズムはいわゆる「単純な統計」よりも優れていると仮定する。
この予想は、統計対計算のトレードオフを理解しようとする最近の研究のラインを囲む信念を定式化する。
論文 参考訳(メタデータ) (2020-04-17T21:08:11Z) - Cram\'er-Rao Lower Bounds Arising from Generalized Csisz\'ar Divergences [17.746238062801293]
我々は Csisz'ar $f$-divergences の一般化された族に対する確率分布の幾何学について研究する。
これらの定式化が, 護衛モデルの偏りのない, 効率的な推定手法の発見に繋がることを示す。
論文 参考訳(メタデータ) (2020-01-14T13:41:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。