論文の概要: Higher-Order Equilibrium Tracking for EM-Compressible Online Estimation
- arxiv url: http://arxiv.org/abs/2605.08864v1
- Date: Sat, 09 May 2026 10:30:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.939514
- Title: Higher-Order Equilibrium Tracking for EM-Compressible Online Estimation
- Title(参考訳): EM圧縮可能なオンライン推定のための高次平衡追跡
- Abstract要約: 本研究では, 潜伏変数モデルにおけるオンライン推定を, 動作中の経験平衡を追尾する問題を再キャストすることによって検討する。
我々のフレームワークは、現在の実行統計において、オンライン見積もりを凍結されたバッチ平衡に分解する。
我々は、平衡応答とニュートン整流子を評価する構造条件として、EM圧縮性とEM-jet$R$-圧縮性を定式化する。
- 参考スコア(独自算出の注目度): 29.20065548055442
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study online estimation in latent-variable models by recasting the problem as tracking a moving empirical equilibrium. Standard online EM and stochastic approximation analyses primarily study convergence toward the population parameter and typically do not isolate the empirical batch optimum from the online tracking error at finite horizon. Our framework decomposes the online estimate into the frozen batch equilibrium at the current running statistic and a tracking lag that captures the algorithm's delay behind this moving target. We prove a batch-to-online transfer theorem: provided $\lVert e_T \rVert_{L^{2}} = o(T^{-1/2})$, the online estimator inherits the batch central limit theorem and the sharp first-order risk constant. Our key observation is that the empirical optimum evolves on a smooth equilibrium manifold indexed by the running statistic. An $m$-th order equilibrium-jet predictor combined with an order-$ν$ frozen corrector yields localized tracking rates $O(T^{-ν(m+1)})$. We formalize EM-compressibility and EM-jet$^R$-compressibility as the structural conditions that make the equilibrium response and the Newton corrector evaluable from a retained streaming statistic. The theory is instantiated in latent linear Gaussian covariance estimation, where the first-order scheme operates on a compressed $d \times d$ statistic with explicit finite-sample risk envelopes and a certified restart rule.
- Abstract(参考訳): 本研究では, 潜伏変数モデルにおけるオンライン推定を, 動作中の経験平衡を追尾する問題を再キャストすることによって検討する。
標準オンラインEMおよび確率近似解析は、主に集団パラメータに対する収束を研究し、典型的には有限地平線におけるオンライン追跡誤差から経験的バッチ最適化を分離しない。
我々のフレームワークは,オンライン推定を,現在の実行統計における凍結バッチ平衡と,この移動目標の背後にあるアルゴリズムの遅延を捉えた追跡ラグに分解する。
与えられた$\lVert e_T \rVert_{L^{2}} = o(T^{-1/2})$,オンライン推定器はバッチ中央極限定理と鋭い一階リスク定数を継承する。
我々のキーとなる観察は、経験的最適値は、実行統計学によってインデックスされた滑らかな平衡多様体上で進化するということである。
$m$-次平衡ジェット予測器とオーダー-$ν$凍結補正器を組み合わせると、局所追跡レート$O(T^{-ν(m+1)})$が得られる。
本研究では, EM圧縮性とEM-jet$^R$圧縮性を, 保持されたストリーミング統計量から平衡応答とニュートン補正器を評価可能な構造条件として定式化する。
この理論は潜在線型ガウス共分散推定(英語版)においてインスタンス化され、第一次スキームは圧縮された$d \times d$ statisticと明示的な有限サンプルリスク包絡と証明された再起動規則で機能する。
関連論文リスト
- The V-fold jackknife for semiparametric inference: variance estimation, confidence intervals, and simultaneous confidence bands [2.715949869811686]
bootstrapは、その広範な適用性と最小限の分析要件のため、統計的推論のデフォルトツールである。
我々は,半パラメトリック推論の計算効率と理論的に正当化された代替手段として,$V$フォールド・ジャックナイフを開発した。
論文 参考訳(メタデータ) (2026-07-24T17:05:54Z) - Error-Conditioned Neural Solvers [36.51479208528461]
ニューラルサロゲートモデルは、PDEパラメータから解への高速な近似マッピングを提供するが、それらは一般に純粋に統計的タスクとして解決を扱う。
最近のハイブリッド手法は、勾配降下またはガウス・ニュートンステップを介してPDE残差を目標とすることで物理的正当性を促進するが、基礎となる古典勾配の計算コストと不安定性を継承する。
理論的・実験的にPDE残差の数値最小化は、不調なシステムにおける再構成精度の信頼性の低いプロキシであることを示す。
論文 参考訳(メタデータ) (2026-06-25T17:56:27Z) - Symmetric Equilibrium Propagation for Thermodynamic Diffusion Training [0.0]
本稿では,2重結合型アナログ基板が,ディジタル推論よりも3~4桁のエネルギー優位性を持つ予測値において,物理的に動的に実現可能であることを示す。
我々は、外的デジタル加速器を介して勾配をルーティングすることなく、同じ基板上でエンハンチングループを閉じることができるかどうかを判定する。
論文 参考訳(メタデータ) (2026-04-26T17:05:05Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Why is Normalization Preferred? A Worst-Case Complexity Theory for Stochastically Preconditioned SGD under Heavy-Tailed Noise [17.899443444882888]
不等式事前条件勾配降下(SPSGD)に対する最悪のケース複雑性理論を開発する。
正規化は問題パラメータが未知の場合には$mathcalO(T-fracp-13p-2)$,$mathcalO(T-fracp-12p)$で1次定常点への収束を保証する。
対照的に、プリコンディショナーと勾配推定との統計的依存により、クリッピングが最悪の場合に収束しないことが証明される。
論文 参考訳(メタデータ) (2026-02-13T19:29:17Z) - Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。
累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。
主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
論文 参考訳(メタデータ) (2026-02-10T21:08:53Z) - Parametric Mean-Field empirical Bayes in high-dimensional linear regression [8.197187859375694]
経験的ベイズ推定器(vEB)の急激な位相遷移挙動を特徴付ける。
第1の体制では、推定された事前値を校正して、有効な座標ワイドおよび非局所化推論を可能にする方法を示す。
第2の体制では,vEB推定器の性能向上のためのデバイアス化手法を提案する。
論文 参考訳(メタデータ) (2026-01-23T15:44:01Z) - Convergence, design and training of continuous-time dropout as a random batch method [0.0]
ランダムバッチ方式のレンズを用いた連続時間モデルにおけるドロップアウト正規化について検討する。
我々は、長さ$h$の時間間隔でニューロンのバッチをサンプリングすることによって、ドロップアウトを模倣する、偏りのない、よく考えられた推定器を構築した。
次に、単層ニューラルネットワークを専門とし、分類とフローマッチングの理論を検証する。
論文 参考訳(メタデータ) (2025-10-15T04:19:01Z) - Online non-parametric likelihood-ratio estimation by Pearson-divergence
functional minimization [55.98760097296213]
iid 観測のペア $(x_t sim p, x'_t sim q)$ が時間の経過とともに観測されるような,オンラインな非パラメトリック LRE (OLRE) のための新しいフレームワークを提案する。
本稿では,OLRE法の性能に関する理論的保証と,合成実験における実証的検証について述べる。
論文 参考訳(メタデータ) (2023-11-03T13:20:11Z) - Improved Convergence of Score-Based Diffusion Models via Prediction-Correction [15.772322871598085]
スコアベース生成モデル(SGM)は、複雑なデータ分布からサンプリングする強力なツールである。
本稿では,一般的な予測器・相関器方式のバージョンを考慮し,この問題に対処する。
まず、不正確なランゲヴィン力学を用いて最終分布を推定し、次にその過程を逆転する。
論文 参考訳(メタデータ) (2023-05-23T15:29:09Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - SLOE: A Faster Method for Statistical Inference in High-Dimensional
Logistic Regression [68.66245730450915]
実用データセットに対する予測の偏見を回避し、頻繁な不確実性を推定する改善された手法を開発している。
私たちの主な貢献は、推定と推論の計算時間をマグニチュードの順序で短縮する収束保証付き信号強度の推定器SLOEです。
論文 参考訳(メタデータ) (2021-03-23T17:48:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。