論文の概要: SLIM: Stochastic Learning and Inference in Overidentified Models
- arxiv url: http://arxiv.org/abs/2510.20996v1
- Date: Thu, 23 Oct 2025 20:50:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-28 06:57:23.356723
- Title: SLIM: Stochastic Learning and Inference in Overidentified Models
- Title(参考訳): SLIM:過度に同定されたモデルにおける確率的学習と推論
- Authors: Xiaohong Chen, Min Seong Kim, Sokbae Lee, Myung Hwan Seo, Myunghyun Song,
- Abstract要約: 非線形GMMのためのスケーラブルな近似フレームワークSLIM(Stochastic Learning and Inference in overidentified Models)を提案する。
SLIMは、モーメントとその誘導体の独立したミニバッチから反復的に更新し、ほとんど周知の収束を保証する不偏方向を生成する。
- 参考スコア(独自算出の注目度): 6.596042904217009
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We propose SLIM (Stochastic Learning and Inference in overidentified Models), a scalable stochastic approximation framework for nonlinear GMM. SLIM forms iterative updates from independent mini-batches of moments and their derivatives, producing unbiased directions that ensure almost-sure convergence. It requires neither a consistent initial estimator nor global convexity and accommodates both fixed-sample and random-sampling asymptotics. We further develop an optional second-order refinement and inference procedures based on random scaling and plug-in methods, including plug-in, debiased plug-in, and online versions of the Sargan--Hansen $J$-test tailored to stochastic learning. In Monte Carlo experiments based on a nonlinear EASI demand system with 576 moment conditions, 380 parameters, and $n = 10^5$, SLIM solves the model in under 1.4 hours, whereas full-sample GMM in Stata on a powerful laptop converges only after 18 hours. The debiased plug-in $J$-test delivers satisfactory finite-sample inference, and SLIM scales smoothly to $n = 10^6$.
- Abstract(参考訳): 非線形GMMのためのスケーラブルな確率近似フレームワークSLIM(Stochastic Learning and Inference in overidentified Models)を提案する。
SLIMは、モーメントとその誘導体の独立したミニバッチから反復的に更新し、ほとんど周知の収束を保証する不偏方向を生成する。
一貫した初期推定器も大域凸性も必要とせず、固定サンプルとランダムサンプリング漸近の両方に対応している。
さらに,確率学習に適したプラグイン,デバイアスドプラグイン,オンライン版Sargan-Hansen$J$-testなど,ランダムスケーリングおよびプラグイン手法に基づく任意の2次改善および推論手順を開発する。
576のモーメント条件、380のパラメータ、10^5$の非線形EASI需要システムに基づくモンテカルロ実験では、SLIMは1.4時間以内でモデルを解くが、強力なラップトップ上のフルサンプルGMMは18時間後に収束する。
脱バイアスプラグイン $J$-test は満足いく有限サンプル推論を提供し、SLIM は $n = 10^6$ に滑らかにスケールする。
関連論文リスト
- Inferring Cosmological Parameters with Evidential Physics-Informed Neural Networks [0.0]
我々は、最近の超新星とバリオン音響振動(BAO)データセットから宇宙パラメータを予測するために、物理情報ニューラルネットワークの新たな変種を用いている。
我々の機械学習フレームワークは、対象変数の不確実性推定と、基礎となるPDE記述の未知パラメータを推定する。
論文 参考訳(メタデータ) (2025-09-29T06:25:53Z) - Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。
従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。
本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
論文 参考訳(メタデータ) (2025-07-11T08:00:47Z) - Coarse Graining with Neural Operators for Simulating Chaotic Systems [78.64101336150419]
カオスシステムの長期的挙動を予測することは、気候モデリングなどの様々な応用に不可欠である。
このような完全解法シミュレーションに対する別のアプローチは、粗いグリッドを使用して、時間テキストモデルによってエラーを修正することである。
この制限を克服する物理インフォームド・ニューラル演算子(PINO)を用いたエンド・ツー・エンドの学習手法を提案する。
論文 参考訳(メタデータ) (2024-08-09T17:05:45Z) - Faster Sampling via Stochastic Gradient Proximal Sampler [28.422547264326468]
非log-concave分布からのサンプリングのための近位サンプリング器 (SPS) について検討した。
対象分布への収束性は,アルゴリズムの軌道が有界である限り保証可能であることを示す。
我々は、Langevin dynamics(SGLD)とLangevin-MALAの2つの実装可能な変種を提供し、SPS-SGLDとSPS-MALAを生み出した。
論文 参考訳(メタデータ) (2024-05-27T00:53:18Z) - Statistical Inference of Constrained Stochastic Optimization via Sketched Sequential Quadratic Programming [53.63469275932989]
制約付き非線形最適化問題のオンライン統計的推測を考察する。
これらの問題を解決するために、逐次二次計画法(StoSQP)を適用する。
論文 参考訳(メタデータ) (2022-05-27T00:34:03Z) - Near-Optimal Reward-Free Exploration for Linear Mixture MDPs with
Plug-in Solver [32.212146650873194]
報酬信号のガイダンスを使わずにRLモデルを効率的に学習するためのアプローチを提案する。
特に、私たちは、探索フェーズにおけるモデル学習に集中するプラグインソルバアプローチを採用しています。
新たな探索アルゴリズムを確立することで,プラグインアプローチは環境との相互作用を$tildeO(d2H3/epsilon2)$とすることでモデルを学習することを示す。
論文 参考訳(メタデータ) (2021-10-07T07:59:50Z) - Tight Nonparametric Convergence Rates for Stochastic Gradient Descent
under the Noiseless Linear Model [0.0]
このモデルに基づく最小二乗リスクに対する1パス, 固定段差勾配勾配の収束度を解析した。
特殊な場合として、ランダムなサンプリング点における値のノイズのない観測から単位区間上の実関数を推定するオンラインアルゴリズムを解析する。
論文 参考訳(メタデータ) (2020-06-15T08:25:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。