Fugu-MT 論文翻訳(概要): The TAP free energy for high-dimensional linear regression

論文の概要: The TAP free energy for high-dimensional linear regression

arxiv url: http://arxiv.org/abs/2203.07539v1
Date: Mon, 14 Mar 2022 22:50:20 GMT
ステータス: 処理完了
システム内更新日: 2022-03-17 10:40:30.420637
Title: The TAP free energy for high-dimensional linear regression
Title（参考訳）: 高次元線形回帰のためのTAP自由エネルギー
Authors: Jiaze Qiu and Subhabrata Sen
Abstract要約: 我々は「比例的な」体制の下で働き、観察の数と特徴の数が比例的に増加する。このことは、スピングラス理論から生じるThouless-Anderson-Palmer (TAP)近似を厳密に確立する。
参考スコア（独自算出の注目度）: 1.217917540461448
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We derive a variational representation for the log-normalizing constant of the posterior distribution in Bayesian linear regression with a uniform spherical prior and an i.i.d. Gaussian design. We work under the "proportional" asymptotic regime, where the number of observations and the number of features grow at a proportional rate. This rigorously establishes the Thouless-Anderson-Palmer (TAP) approximation arising from spin glass theory, and proves a conjecture of Krzakala et. al. (2014) in the special case of the spherical prior.
Abstract（参考訳）: ベイズ線形回帰における後続分布の対数正規化定数に対する変分表現を,一様球面前と対数ガウス設計を用いて導出した。我々は「比例的な」漸近的な体制の下で働き、観察の回数と特徴の数が比例的に増加する。このことは、スピングラス理論から生じるThouless-Anderson-Palmer (TAP)近似を厳密に確立し、Krzakalaらの予想を証明する。 al. (2014) 球面前の特別な場合。

関連論文リスト

von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文参考訳（メタデータ） (2024-06-19T01:57:21Z)
Nonparametric regression on random geometric graphs sampled from submanifolds [2.3326951882644553]
ランダムな基底展開により設計したベイズ以前の分布から生じる後部分布の頻繁な挙動を解析する。これらの手法の後方収縮速度は任意の正の滑らか度指数に対して最小値(対数係数まで)であることを示す。
論文参考訳（メタデータ） (2024-05-31T15:18:44Z)
Conformal inference for regression on Riemannian Manifolds [49.7719149179179]
回帰シナリオの予測セットは、応答変数が$Y$で、多様体に存在し、Xで表される共変数がユークリッド空間にあるときに検討する。我々は、多様体上のこれらの領域の経験的バージョンが、その集団に対するほぼ確実に収束していることを証明する。
論文参考訳（メタデータ） (2023-10-12T10:56:25Z)
Curvature-Independent Last-Iterate Convergence for Games on Riemannian Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文参考訳（メタデータ） (2023-06-29T01:20:44Z)
Asymptotics of Bayesian Uncertainty Estimation in Random Features Regression [1.170951597793276]
本研究では, 後方予測分布(ベイジアンモデル平均)のばらつきに着目し, MAP推定器の危険度と比較する。また、サンプルの数がモデル次元のどの定数倍数よりも速く成長する場合にも一致する。
論文参考訳（メタデータ） (2023-06-06T15:36:15Z)
Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文参考訳（メタデータ） (2023-06-06T09:12:49Z)
High-dimensional analysis of double descent for linear regression with random projections [0.0]
ランダムな投影数が異なる線形回帰問題を考察し、固定された予測問題に対する二重降下曲線を確実に示す。まず、リッジ回帰推定器を考察し、非パラメトリック統計学の古典的概念を用いて先行結果を再解釈する。次に、最小ノルム最小二乗の一般化性能(バイアスと分散の観点から)の同値をランダムな射影に適合させ、二重降下現象の単純な表現を与える。
論文参考訳（メタデータ） (2023-03-02T15:58:09Z)
On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。理論的にも経験的にも二重降下現象を観察する。
論文参考訳（メタデータ） (2021-10-13T17:47:39Z)
Instance-Optimal Compressed Sensing via Posterior Sampling [101.43899352984774]
後部サンプリング推定器がほぼ最適回復保証を達成できることを示す。本稿では,Langevin dynamics を用いた深部生成前駆体の後方サンプリング推定器を実装し,MAP よりも精度の高い推定値が得られることを実証的に見出した。
論文参考訳（メタデータ） (2021-06-21T22:51:56Z)
Variational Inference in high-dimensional linear regression [5.065420156125522]
高次元ベイズ線形回帰を積優先で研究する。後部分布のログ正規化定数に対するナイーブ平均場近似の先導的正しさの十分な条件を提供します。
論文参考訳（メタデータ） (2021-04-25T19:09:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。