論文の概要: Expectation-Maximization as a Spectrally Governed Relaxation Flow
- arxiv url: http://arxiv.org/abs/2605.07818v1
- Date: Fri, 08 May 2026 14:49:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:39.130945
- Title: Expectation-Maximization as a Spectrally Governed Relaxation Flow
- Title(参考訳): スペクトル配向緩和流としての期待-最大化
- Abstract要約: グローバル降下と局所収束を接続する潜在変数作用素を明示する。
この結果から, グローバル降下, 局所スペクトル挙動, 最適局所緩和を, 共通の動的枠組み内に配置した。
- 参考スコア(独自算出の注目度): 10.371607616433966
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The expectation--maximization (EM) algorithm combines global monotonicity, local linear convergence, and strong practical robustness, but these features are usually analyzed separately. Global descent is nonlinear, whereas local convergence is governed by the spectrum of the linearized EM map. How these two levels fit into a single dynamical picture has remained less transparent. We make explicit the latent-variable operator that connects them. Along the EM trajectory, the likelihood increment admits a global energy decomposition in terms of posterior-relative entropy. Linearization at a nondegenerate maximizer $θ^\ast$ then reveals the local operator \[ \mathcal G_{θ^\ast}=I-DT(θ^\ast), \] which coincides with both the missing-information ratio and the information-geometric Hessian of the observed likelihood. This operator provides a unified description of local contraction, posterior rigidity, and geometric curvature. Its spectrum yields a sharp characterization of local convergence and naturally leads to an optimal scalar relaxation rule for locally accelerated EM. These results place global descent, local spectral behavior, and optimal local relaxation within a common dynamical framework.
- Abstract(参考訳): 期待-最大化(EM)アルゴリズムは、大域的な単調性、局所的な線形収束、強力な実用的ロバスト性を組み合わせたものであるが、これらの特徴は通常別々に分析される。
大域的な降下は非線形であるが、局所収束は線形化されたEMマップのスペクトルによって支配される。
これらの2つのレベルが単一のダイナミックな画像にどのように適合するかは、まだ透明ではない。
それらを接続する潜在変数演算子を明示する。
EM軌道に沿って、ポテンシャルインクリメントは後相対エントロピーの観点で大域的なエネルギー分解を許容する。
非退化最大値$θ^\ast$での線形化は、観測された確率の不足情報比と情報幾何学的ヘシアンの両方に一致する局所作用素 \[ \mathcal G_{θ^\ast}=I-DT(θ^\ast), \] を明らかにする。
この作用素は局所収縮、後続剛性、幾何曲率を統一的に記述する。
そのスペクトルは局所収束の鋭い特徴を与え、局所加速EMに対する最適スカラー緩和則を自然に導く。
これらの結果は、グローバルな降下、局所スペクトルの挙動、そして共通の動的枠組みの中で最適な局所緩和をもたらす。
関連論文リスト
- A Function-Space Approach to the Statistical Mechanics of Learning Dynamics [16.495935745587936]
本研究では,関数空間における学習の統計的・機械的記述を開発する。
平均二乗損失の場合、正確な誤差ダイナミクスは学習演算子(M=JJast)によって制御される。
穏やかな統計的条件下でのReLU型函数空間に対して、(B=_2Lastmathcal K L) は粗粒二階構造を測定する。
論文 参考訳(メタデータ) (2026-09-09T01:30:14Z) - Explaining f-Divergence-Based Regularization via Local Curvature and Sharpness-Aware Minimization [7.792020418343022]
多様性に基づく正規化とシャープネス認識最小化(SAM)は、ディープラーニングの一般化を改善するための2つの重要なアプローチである。
この2つの手法はパラメータ空間の摂動の下で局所的に一致していることを示す。
また、分岐に基づく正規化は入力の変換によって定義されることを示す。
論文 参考訳(メタデータ) (2026-09-08T19:01:05Z) - Optimization Geometrodynamics: Variational Reduction and Interaction Curvature [0.0]
我々は、この隠れ行列式プッシュフォワードの変分理論として、測地力学を発展させる。
アフィン事前還元の場合、誘導的相互作用曲率(英語版)は負半有限作用素 $-G*H-1G$ である。
閉全測地線ファイバーを持つ大域的解析バンドルと、特異な解析的近接制御器部とを証明した。
論文 参考訳(メタデータ) (2026-07-07T18:42:00Z) - On Higher-Order Geometric Refinements of Classical Covariance Asymptotics: An Approach via Intrinsic and Extrinsic Information Geometry [0.0]
混合、曲線指数族、潜在変数モデル、多様体-ルートパラメータ空間を含む曲線モデルでは、有限サンプルの振る舞いは予測から体系的に逸脱することができる。
我々は、正規パラメトリック族をフィッシャー制約ラオ計量の((,g))として見ることにより、座標不変な曲率対応の洗練を開発する。
本稿では,学習速度と後進平均二乗誤差における実対数正準しきい値の役割,および正規理論を特殊ケースとして回復する解空間上の曲率に基づく共分散展開について述べる。
論文 参考訳(メタデータ) (2026-04-14T13:40:13Z) - Continuous-Time Dynamics of the Difference-of-Convex Algorithm [0.0]
凸成分を用いた滑らかな直流分解のための差分法(DCA)の連続時間構造を誘導する。
我々は、同じ目的の異なるDC分解が、異なる連続力学をリンクすることを示す。
論文 参考訳(メタデータ) (2026-04-08T10:38:07Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - A Mirror-Descent Algorithm for Computing the Petz-Rényi Capacity of Classical-Quantum Channels [13.098901971644656]
古典量子(c-q)チャネルの容量を$in(0,1)$で計算する。
本稿では,Blahut-Arimotoアルゴリズムを一般化した指数勾配(ミラー降下)を提案する。
論文 参考訳(メタデータ) (2026-01-15T16:22:52Z) - Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。
以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
論文 参考訳(メタデータ) (2025-10-22T19:06:39Z) - Learning Overspecified Gaussian Mixtures Exponentially Fast with the EM Algorithm [5.625796693054093]
過特定ガウス混合モデルに適用した場合のEMアルゴリズムの収束特性について検討する。
集団EMアルゴリズムはクルバック・リーブラー距離(KL)において指数関数的に高速に収束することを示した。
論文 参考訳(メタデータ) (2025-06-13T14:57:57Z) - Localization with non-Hermitian off-diagonal disorder [0.0]
我々は,非エルミート系を,ランダムに近接する近傍トンネルが支配するシステムについて論じる。
完全に実固有スペクトルの物理的状況は、ハミルトニアンの三対角行列構造によって生じる。
対角線外障害は、非エルミート系を有限系における非局在化-局在化クロスオーバーへと導く。
論文 参考訳(メタデータ) (2023-10-20T18:02:01Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - Convergence of Adam Under Relaxed Assumptions [72.24779199744954]
我々は、アダムがより現実的な条件下で、$O(epsilon-4)$勾配複雑性で$epsilon$-定常点に収束することを示している。
また、Adamの分散還元版を$O(epsilon-3)$の加速勾配複雑性で提案する。
論文 参考訳(メタデータ) (2023-04-27T06:27:37Z) - Hyperspectral Image Denoising Using Non-convex Local Low-rank and Sparse
Separation with Spatial-Spectral Total Variation Regularization [49.55649406434796]
本研究では,HSI復調のためのロバストな主成分分析のための新しい非特異なアプローチを提案する。
我々は、ランクとスパースコンポーネントの両方に対する正確な近似を開発する。
シミュレーションと実HSIの両方の実験により,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2022-01-08T11:48:46Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - Spectral density estimation with the Gaussian Integral Transform [91.3755431537592]
スペクトル密度作用素 $hatrho(omega)=delta(omega-hatH)$ は線形応答論において中心的な役割を果たす。
スペクトル密度を近似する近似量子アルゴリズムについて述べる。
論文 参考訳(メタデータ) (2020-04-10T03:14:38Z) - Anisotropy-mediated reentrant localization [62.997667081978825]
2次元双極子系、$d=2$、一般化双極子-双極子相互作用$sim r-a$、トラップイオン系やリドバーグ原子系で実験的に制御されたパワー$a$を考える。
異方性双極子交換を引き起こす双極子の空間的に均質な傾き$$beta$は、ロケータ展開を超えた非自明な再帰的局在をもたらすことを示す。
論文 参考訳(メタデータ) (2020-01-31T19:00:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。