論文の概要: Generalized Guarantees for Variational Inference in the Presence of Even and Elliptical Symmetry
- arxiv url: http://arxiv.org/abs/2511.01064v1
- Date: Sun, 02 Nov 2025 20:10:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-05 16:37:27.051356
- Title: Generalized Guarantees for Variational Inference in the Presence of Even and Elliptical Symmetry
- Title(参考訳): 偶数および楕円対称性の存在下での変分推論のための一般化された保証
- Authors: Charles C. Margossian, Lawrence K. Saul,
- Abstract要約: 位置スケールの家族との変分推論の対称性に基づく保証を提供する。
まず,VI が平均および相関行列を良好に回復する変動目的の性質を明らかにすることにより,より広範な分岐の族に対する保証を提供する。
第二に、ターゲット密度$p$が偶数および楕円対称性を示すときのVIのさらなる保証を得るが、その座標の全てではない。
- 参考スコア(独自算出の注目度): 3.9655818200495734
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We extend several recent results providing symmetry-based guarantees for variational inference (VI) with location-scale families. VI approximates a target density~$p$ by the best match $q^*$ in a family $Q$ of tractable distributions that in general does not contain $p$. It is known that VI can recover key properties of $p$, such as its mean and correlation matrix, when $p$ and $Q$ exhibit certain symmetries and $q^*$ is found by minimizing the reverse Kullback-Leibler divergence. We extend these guarantees in two important directions. First, we provide symmetry-based guarantees for a broader family of divergences, highlighting the properties of variational objectives under which VI provably recovers the mean and correlation matrix. Second, we obtain further guarantees for VI when the target density $p$ exhibits even and elliptical symmetries in some but not all of its coordinates. These partial symmetries arise naturally in Bayesian hierarchical models, where the prior induces a challenging geometry but still possesses axes of symmetry. We illustrate these theoretical results in a number of experimental settings.
- Abstract(参考訳): 位置スケールの家族による変分推論(VI)の対称性に基づく保証を提供する最近のいくつかの結果を拡張した。
VI はターゲット密度~$p$ を、一般に$p$ を含まないような、抽出可能な分布の族$Q$ の最良のマッチ$q^*$ で近似する。
VI はその平均行列や相関行列のように、p$ と $Q$ が特定の対称性を示し、q^*$ が逆クルバック・リーブラの発散を最小化することで、$p$ と $Q$ の鍵特性を回復できることが知られている。
これらの保証を2つの重要な方向に拡張する。
第一に、より広範な分岐族に対する対称性に基づく保証を提供し、VIが平均および相関行列を確実に回復する変動目的の性質を強調する。
第二に、ターゲット密度$p$が偶数および楕円対称性を示すときのVIのさらなる保証を得るが、その座標の全てではない。
これらの部分対称性はベイズ階層モデルにおいて自然に生じ、前者は挑戦的な幾何学を導き出すが、それでも対称性の軸を持つ。
これらの理論的結果は、いくつかの実験的な設定で説明する。
関連論文リスト
- Mesoscopic Fluctuations and Multifractality at and across Measurement-Induced Phase Transition [46.176861415532095]
二次元自由フェルミオンモデルにおける量子軌道のアンサンブルに関する統計的揺らぎについて検討する。
この結果はアンダーソンの局所化に顕著な類似性を示し、G_AB$は2末端の導電率に対応する。
監視システムのメソスコピック理論の基礎を築き,様々な拡張への道を開いた。
論文 参考訳(メタデータ) (2025-07-15T13:44:14Z) - Variational Inference in Location-Scale Families: Exact Recovery of the Mean and Correlation Matrix [3.9655818200495734]
抽出可能なターゲット密度$p$が与えられたとき、変動推論(VI)は、抽出可能なファミリー$Q$から最高の近似$q$を見つけようとする。
実際、$Q$ は$p$ を含ませるほど豊かではないし、その近似は $textKL(q||p)$ のユニークな大域最小化器である場合でも誤特定される。
軽度な規則性条件だけでなく,過度な不特定に直面した場合にも,VIの強い保証が証明される。
論文 参考訳(メタデータ) (2024-10-14T20:25:49Z) - Remarks on effects of projective phase on eigenstate thermalization hypothesis [0.0]
非自明な射影位相を持つ$mathbbZ_NtimesmathbbZ_N$対称性を考える。
また、$ (1+1)$-次元スピン鎖と$ (2+1)$-次元格子ゲージ理論についても数値解析を行う。
論文 参考訳(メタデータ) (2023-10-17T17:36:37Z) - How Over-Parameterization Slows Down Gradient Descent in Matrix Sensing:
The Curses of Symmetry and Initialization [46.55524654398093]
過パラメータ化が降下の収束挙動をどのように変化させるかを示す。
目的は、ほぼ等方的線形測定から未知の低ランクの地上構造行列を復元することである。
本稿では,GDの一段階だけを修飾し,$alpha$に依存しない収束率を求める手法を提案する。
論文 参考訳(メタデータ) (2023-10-03T03:34:22Z) - Transformers as Support Vector Machines [54.642793677472724]
自己アテンションの最適化幾何と厳密なSVM問題との間には,形式的等価性を確立する。
勾配降下に最適化された1層変圧器の暗黙バイアスを特徴付ける。
これらの発見は、最適なトークンを分離し選択するSVMの階層としてのトランスフォーマーの解釈を刺激していると信じている。
論文 参考訳(メタデータ) (2023-08-31T17:57:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。