論文の概要: Perturbative methods for non-parametric instrumental variable

• arxiv url: http://arxiv.org/abs/2606.00322v1
• Date: Fri, 29 May 2026 19:56:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-02 21:34:28.286661
• Title: Perturbative methods for non-parametric instrumental variable
• Title（参考訳）: 非パラメトリックインスツルメンタル変数の摂動法
• Abstract要約: 非パラメトリックインスツルメンタル変数(NPIV)推定に対する摂動的アプローチを導入する。 その結果,1次摂動補正により,高次元不定値の場合の予測誤差を最大99%低減できることがわかった。
• 参考スコア（独自算出の注目度）: 20.067317290622377
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce a perturbative approach for nonparametric instrumental variable (NPIV) estimation. By drawing inspiration from perturbation theory in physics, we extend standard kernel ridge methods with systematic higher perturbation order corrections that significantly improve estimation accuracy. Spectrally, the perturbation introduces mixing between different eigenmodes of the expectation integral operator, which becomes especially useful when the integral equation is ill-defined. One source for such ill-definedness can be the curse of dimensionality. Our method performs across various dimensionality regimes, particularly when the dimensionality parameter $β$ which is defined through the number of samples $n$ and dimension $d$ as $n^β= d$, becomes large. Experimental results show that our first-order perturbative corrections can reduce prediction error by up to 99\% in high-dimensional ill-defined cases ($β> 0.7$) compared to standard ridge regression approaches. The performance improvement is maintained across a wide range of dimensions, with the advantage becoming more pronounced as dimensionality increases.
• Abstract（参考訳）: 非パラメトリックインスツルメンタル変数(NPIV)推定に対する摂動的アプローチを導入する。 物理学における摂動理論からインスピレーションを得ることにより、予測精度を大幅に向上させる、体系的な高摂動順序補正による標準カーネルリッジ法を拡張した。 スペクトル的に、摂動は期待積分作用素の異なる固有モジュラー間の混合を導入し、積分方程式が不定義であるときに特に有用となる。 そのような不明確な理由の1つは次元性の呪いである。 特に, サンプル数$n$と次元$d$を$n^β=d$とすると, 次元パラメータ$β$が大きくなる。 実験結果から,1次摂動補正により,高次元不定値(β> 0.7$)の予測誤差を最大99\%削減できることがわかった。 性能改善は幅広い次元にわたって維持され、次元が増加するにつれて利点はより顕著になる。

関連論文リスト

• Nonparametric Estimation of Isotropic Covariance Function [6.456477445670593]
  非パラメトリックモデルは$mathbbRinfty$で有効な任意の等方共分散関数に近似するように構成される。 次に、sieve maximum chance (sML) を推定して、$mathbbRinfty$で有効な未知の等方性共分散関数を推定する。 提案手法は,モデル不特定性によるバイアス低減のパラメトリック手法と,期待される$L_infty$および$L$ノルムのかなり低い値を持つ非パラメトリック手法よりも優れる。
  論文  参考訳（メタデータ） (2026-04-24T07:51:27Z)
• Adaptive regularization parameter selection for high-dimensional inverse problems: A Bayesian approach with Tucker low-rank constraints [1.6936594801109557]
  高次元空間からタッカー分解による低次元コアテンソル空間への変分推論を変換することにより、計算複雑性を低減する。 鍵となる革新は、異方性構造に対する適応正則化を可能にするモードごとの精度パラメータの導入である。 この手法は110,000の変数を持つ問題にスケールし、従来の手法を0.73-2.09dB、熱伝導率6.75dBで上回っている。
  論文  参考訳（メタデータ） (2026-03-17T02:23:44Z)
• Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
  乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。 以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2025-10-22T19:06:39Z)
• Differentially Private Learning Beyond the Classical Dimensionality Regime [19.030954416586596]
  比例次元の体系における差分私的学習について研究する。 いくつかのよく研究された微分プライベートアルゴリズムの誤差を理論的に推定する。
  論文  参考訳（メタデータ） (2024-11-20T19:56:12Z)
• A Stochastic Approach to Bi-Level Optimization for Hyperparameter Optimization and Meta Learning [74.80956524812714]
  我々は,現代のディープラーニングにおいて広く普及している一般的なメタ学習問題に対処する。 これらの問題は、しばしばBi-Level Optimizations (BLO)として定式化される。 我々は,与えられたBLO問題を,内部損失関数が滑らかな分布となり,外損失が内部分布に対する期待損失となるようなii最適化に変換することにより,新たな視点を導入する。
  論文  参考訳（メタデータ） (2024-10-14T12:10:06Z)
• Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
  我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。 我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
  論文  参考訳（メタデータ） (2024-07-11T13:28:34Z)
• Scaling and renormalization in high-dimensional regression [72.59731158970894]
  リッジ回帰に関する最近の結果について統一的な視点を提示する。 我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。 我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
  論文  参考訳（メタデータ） (2024-05-01T15:59:00Z)
• Extending Mean-Field Variational Inference via Entropic Regularization: Theory and Computation [3.1048285287226904]
  変分推論 (VI) は高次元ベイズモデルに対する近似推論の一般的な方法として登場した。 エントロピー正則化を通したナイーブ平均場を拡張する新しいVI法を提案する。 我々は,$Xi$-variational rearsが真の後縁依存性を効果的に回復することを示した。
  論文  参考訳（メタデータ） (2024-04-14T01:40:11Z)
• Analysis of Bootstrap and Subsampling in High-dimensional Regularized Regression [29.57766164934947]
  統計モデルの不確実性を推定するための一般的な再サンプリング手法について検討する。 一般化線形モデル(英語版)の文脈において、これらの手法によって推定されるバイアスと分散の厳密な記述を提供する。
  論文  参考訳（メタデータ） (2024-02-21T08:50:33Z)
• Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
  帰納バイアスは 経験的に過剰フィットを防げる中心的存在です この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。 我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
  論文  参考訳（メタデータ） (2021-03-23T17:15:53Z)
• Revisiting SGD with Increasingly Weighted Averaging: Optimization and Generalization Perspectives [50.12802772165797]
  平均化手法は、全ての反復解を一つの解に結合する。 実験は、他の平均化方式と比較して、トレードオフと平均化の有効性を示した。
  論文  参考訳（メタデータ） (2020-03-09T18:14:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。