論文の概要: Adaptive Estimation and Inference in Conditional Moment Models via the Discrepancy Principle
- arxiv url: http://arxiv.org/abs/2603.01337v1
- Date: Mon, 02 Mar 2026 00:23:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-03 19:50:56.632843
- Title: Adaptive Estimation and Inference in Conditional Moment Models via the Discrepancy Principle
- Title(参考訳): 離散性原理による条件付きモーメントモデルにおける適応的推定と推論
- Authors: Jiyuan Tan, Vasilis Syrgkanis,
- Abstract要約: 条件付きモーメント制約によって定義される線形逆問題における適応的推定と推論について検討する。
正規化DeepIV (RDIV) のような既存の正規化推定器は、ニュアンス関数の滑らかさに関する事前知識を必要とする。
- 参考スコア(独自算出の注目度): 17.447741518678374
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study adaptive estimation and inference in ill-posed linear inverse problems defined by conditional moment restrictions. Existing regularized estimators such as Regularized DeepIV (RDIV) require prior knowledge of the smoothness of the nuisance function, typically encoded by a beta source condition to tune their regularization parameters. In practice, this smoothness is unknown, and misspecified hyperparameters can lead to suboptimal convergence or instability. We introduce a discrepancy-principle-based framework for adaptive hyperparameter selection that automatically balances bias and variance without relying on the unknown smoothness parameter. Our framework applies to both RDIV (Li et al. [2024]) and the Tikhonov Regularized Adversarial Estimator (TRAE) (Bennett et al. [2023a]) and achieves the same rates in both weak and strong metrics. Building on this, we construct a fully adaptive doubly robust estimator for linear functionals that attains the optimal rate of the better-conditioned primal or dual problem, providing a practical, theoretically grounded approach for adaptive inference in ill-posed econometric models.
- Abstract(参考訳): 条件付きモーメント制約によって定義される線形逆問題における適応的推定と推論について検討する。
正規化DeepIV (RDIV) のような既存の正規化推定器は、正規化パラメータを調整するために、通常ベータソース条件によって符号化されたニュアンス関数の滑らかさに関する事前知識を必要とする。
実際には、この滑らかさは未知であり、不特定なハイパーパラメータは最適下限収束や不安定をもたらす可能性がある。
適応型ハイパーパラメータ選択のための離散原理に基づくフレームワークを導入し, 未知の滑らか度パラメータに依存することなく, 偏差と分散を自動的にバランスさせる。
我々のフレームワークはRDIV (Li et al [2024]) とTikhonov Regularized Adversarial Estimator (TRAE) (Bennett et al [2023a]) の両方に適用され、弱度と強度の両方で同じレートを達成する。
これに基づいて, 線形汎関数に対する完全適応的2次ロバストな推定器を構築し, 条件のよい原始問題や双対問題の最適速度を達成し, 誤差のある計量モデルにおける適応推論の実践的, 理論的に基礎的なアプローチを提供する。
関連論文リスト
- Adaptive Benign Overfitting (ABO): Overparameterized RLS for Online Learning in Non-stationary Time-series [0.0]
ABOは非常に正確で(ベースラインのカーネルメソッドと比較して)、20~40%のスピード改善を実現している。
結果は、安定したオンライン学習フレームワーク内で適応フィルタリング、カーネル近似、良性過剰適合をリンクする統一ビューを提供する。
論文 参考訳(メタデータ) (2026-01-29T15:58:01Z) - Rectified Robust Policy Optimization for Model-Uncertain Constrained Reinforcement Learning without Strong Duality [53.525547349715595]
我々はRectified Robust Policy Optimization (RRPO) と呼ばれる新しいプライマリのみのアルゴリズムを提案する。
RRPOは双対の定式化に頼ることなく、主問題に直接作用する。
我々は、最もよく知られた下界と一致する複雑性を持つ、ほぼ最適な実現可能なポリシーに収束することを示す。
論文 参考訳(メタデータ) (2025-08-24T16:59:38Z) - Principled Input-Output-Conditioned Post-Hoc Uncertainty Estimation for Regression Networks [1.4671424999873808]
不確実性は安全性に敏感なアプリケーションでは重要であるが、予測性能に悪影響を及ぼすため、市販のニューラルネットワークから排除されることが多い。
本稿では,従来の入力と凍結モデルの両方に補助モデルを適用することにより,回帰タスクにおけるポストホック不確実性推定のための理論的基盤となるフレームワークを提案する。
論文 参考訳(メタデータ) (2025-06-01T09:13:27Z) - Norm-Bounded Low-Rank Adaptation [11.263496225606126]
パラメータ効率の良い微調整のためのノルム有界低ランク適応(NB-LoRA)を提案する。
NB-ロラ (NB-LoRA) は、適応行列の各特異値の明示的な境界を許容する低ランクな重み適応の新しいパラメータ化である。
実験により,NB-LoRAは適応性能の小さなコストを伴わずにモデル忘れを回避できることが示された。
論文 参考訳(メタデータ) (2025-01-31T11:24:57Z) - Semiparametric Double Reinforcement Learning with Applications to Long-Term Causal Inference [33.14076284663493]
短期的なデータから長期的な因果効果を推定しなければならない。
MDPはこのような長期的ダイナミクスを捉えるための自然なフレームワークを提供する。
非パラメトリックな実装は時間間重なりの強い仮定を必要とする。
アイソトニックベルマンキャリブレーションに基づく新しいプラグイン推定器を提案する。
論文 参考訳(メタデータ) (2025-01-12T20:35:28Z) - Adaptive Conformal Inference by Betting [51.272991377903274]
データ生成プロセスについて仮定することなく適応型共形推論の問題を考察する。
適応型共形推論のための既存のアプローチは、オンライン勾配勾配の変種を用いたピンボール損失の最適化に基づいている。
本稿では,パラメータフリーなオンライン凸最適化手法を利用した適応型共形推論手法を提案する。
論文 参考訳(メタデータ) (2024-12-26T18:42:08Z) - Error Feedback under $(L_0,L_1)$-Smoothness: Normalization and Momentum [56.37522020675243]
機械学習の幅広い問題にまたがる正規化誤差フィードバックアルゴリズムに対する収束の最初の証明を提供する。
提案手法では,許容可能なステップサイズが大きくなったため,新しい正規化エラーフィードバックアルゴリズムは,各種タスクにおける非正規化エラーよりも優れていた。
論文 参考訳(メタデータ) (2024-10-22T10:19:27Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。
本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。
理論的にも経験的にも二重降下現象を観察する。
論文 参考訳(メタデータ) (2021-10-13T17:47:39Z) - Support recovery and sup-norm convergence rates for sparse pivotal
estimation [79.13844065776928]
高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。
非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
論文 参考訳(メタデータ) (2020-01-15T16:11:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。