論文の概要: Sharp Structure-Agnostic Minimax Risk for Partial Linear Models
- arxiv url: http://arxiv.org/abs/2609.07997v1
- Date: Mon, 07 Sep 2026 21:32:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.524632
- Title: Sharp Structure-Agnostic Minimax Risk for Partial Linear Models
- Title（参考訳）: 部分線形モデルに対するシャープ構造に依存しないミニマックスリスク
- Abstract要約: 偏線形モデルにおける係数推定のための急激な構造非依存のミニマックスリスクを特徴付ける。
各(qin,)において、利用可能な学習者は近似エラー予算(a_q)と複雑性エラー予算(s_q)によって特徴付けられる。
主な新しい材料は、一般的な2層問題に対する新しい下限である。
- 参考スコア（独自算出の注目度）: 15.386375612838371
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We characterize the sharp structure-agnostic minimax risk for coefficient estimation in the partial linear model when the outcome and treatment nuisances are learned by two distinct black-box learners, which resolves the open problem in double machine learning posed by Gu (2025). For each nuisance \(q\in\{μ,π\}\), we characterize the available learner by an approximation-error budget \(a_q\) and a stochastic-error budget \(s_q\), with the latter controlled through localized Rademacher complexity. Writing \(\mathcal E_n\) for the minimax mean-squared error, we show that \[\mathcal E_n\asymp1\wedge\left\{\frac1n+\left(a_μa_π+\min\left\{a_πs_μ+s_π^2,\,a_μs_π+s_μ^2\right\}\right)^2\right\}.\] The main new ingredient is a novel lower bound for the general two-learner problem. Our proof constructs four finite-mixture testing experiments using orthogonal code functions. Across these experiments, the hidden perturbations are placed outside both learner classes, outside only the treatment learner class, outside only the outcome learner class, or inside both learner classes. These four configurations capture, respectively, the interaction between the two approximation errors, the two asymmetric interactions between one learner's approximation error and the other learner's learning error, and the joint estimation difficulty of learning both nuisances. Combining the four resulting lower bounds yields the displayed rate, which matches the latest upper bound in Gu (2026). Our result shows that standard double machine learning can overstate the intrinsic difficulty of target estimation and provides a target-specific principle for learner selection: approximation error and stochastic complexity must be jointly balanced across the two nuisance learners rather than optimized separately.
- Abstract（参考訳）: 2つの異なるブラックボックス学習者によって結果と治療のヌーザンが学習されるとき、偏線形モデルにおける係数推定のための鋭い構造に依存しない最小限のリスクを特徴付け、Gu(2025)によって引き起こされる二重機械学習におけるオープンな問題を解消する。
各ニュアンス \(q\in\{μ,π\}\) に対して、利用可能な学習者は近似エラー予算 \(a_q\) と確率エラー予算 \(s_q\) で特徴づける。
ミニマックス平均二乗誤差に対して \(\mathcal E_n\) を書き、 \[\mathcal E_n\asymp1\wedge\left\{\frac1n+\left(a_μa_π+\min\left\{a_πs_μ+s_π^2,\,a_μs_π+s_μ^2\right\right)^2\right\} を示す。
> 主な新成分は,一般二層問題に対する新しい下限である。
直交符号関数を用いた4つの有限混合試験実験を構築した。
これらの実験を通して、隠れた摂動は、両方の学習者クラスの外、治療学習者クラス外、結果学習者クラス外、または両方の学習者クラス内に配置される。
これら4つの構成は、それぞれ2つの近似誤差の相互作用、一方の学習者の近似誤差と他方の学習者の学習誤差の2つの非対称的相互作用、および両者を学習する共同推定困難さをキャプチャする。
結果の4つの下限を組み合わせると、表示されたレートがGu(2026)の最新の上限と一致する。
この結果から,従来の二重機械学習は,目的推定の本質的な難しさを過小評価し,学習者選択の目標固有の原理を提供する。
関連論文リスト
- Rate optimal learning of equilibria from data [63.14746189846806]
マルチエージェント・イミテーション・ラーニング(MAIL)における理論的ギャップは,非対話的MAILの限界を特徴づけ,ほぼ最適なサンプル複雑性を持つ最初の対話的アルゴリズムを提示することによって解決する。
インタラクティブな設定では、報酬のない強化学習と対話型MAILを組み合わせたフレームワークを導入し、それをMAIL-WARMというアルゴリズムでインスタンス化する。
我々は,我々の理論を裏付ける数値的な結果を提供し,グリッドワールドのような環境において,行動クローンが学習に失敗する状況を示す。
論文 参考訳（メタデータ） (2025-10-10T12:28:35Z) - Subtle Errors in Reasoning: Preference Learning via Error-injected Self-editing [59.405145971637204]
eRror-Injected Self-Editing (RISE) と呼ばれる新しい好み学習フレームワークを提案する。
RISEは、事前定義された微妙なエラーをピボットトークンに注入する。
RISEの有効性を検証する実験では、Qwen2-7B-Instructでの優先学習により、GSM8Kでは3.0%、MATHでは7.9%が顕著に改善され、トレーニングサンプルは4.5Kに留まった。
論文 参考訳（メタデータ） (2024-10-09T07:43:38Z) - Data-driven Error Estimation: Upper Bounding Multiple Errors without Class Complexity as Input [24.549751508566565]
私たちはこれを「エラー推定問題」と捉えています。
目標は、推定クラスの最大誤差の高確率上限を決定することである。
有限なクラス設定と無限なクラス設定の両方にそのような境界を導出する、完全にデータ駆動のアプローチを提案する。
論文 参考訳（メタデータ） (2024-05-07T19:38:26Z) - Improved Robust Algorithms for Learning with Discriminative Feature
Feedback [21.58493386054356]
識別的特徴フィードバック(英: Discriminative Feature Feedback)は、人間の教師によって提供される特徴説明に基づく対話型学習のためのプロトコルである。
我々は、識別的特徴フィードバックモデルのための、新しい堅牢な対話型学習アルゴリズムを提供する。
論文 参考訳（メタデータ） (2022-09-08T12:11:12Z) - The Geometry of Adversarial Training in Binary Classification [1.2891210250935143]
我々は,非パラメトリック二分分類における対角的学習問題の族と正規化リスク最小化問題の族との同値性を確立する。
結果として生じる正規化リスク最小化問題は、$L1+$(非局所)$operatornameTV$の正確な凸緩和を許容する。
論文 参考訳（メタデータ） (2021-11-26T17:19:50Z) - Minimum $\ell_{1}$-norm interpolators: Precise asymptotics and multiple
descent [19.781475554462553]
本稿では、最小$ell_1$-norm補間器という、重要な種類の補間器の理論的理解を追求する。
我々は、奇異な多発現象である厳密な理論的正当化を観察し、提供する。
我々の発見は、2つの未知の非線形方程式からなる2つのシステムによって制御されるリスク行動の正確な特徴に基づいている。
論文 参考訳（メタデータ） (2021-10-18T17:51:14Z) - Towards an Understanding of Benign Overfitting in Neural Networks [104.2956323934544]
現代の機械学習モデルは、しばしば膨大な数のパラメータを使用し、通常、トレーニング損失がゼロになるように最適化されている。
ニューラルネットワークの2層構成において、これらの良質な過適合現象がどのように起こるかを検討する。
本稿では,2層型ReLUネットワーク補間器を極小最適学習率で実現可能であることを示す。
論文 参考訳（メタデータ） (2021-06-06T19:08:53Z) - Risk Bounds and Rademacher Complexity in Batch Reinforcement Learning [36.015585972493575]
本稿では,一般値関数近似を用いたバッチ強化学習(RL)について考察する。
Empirical Risk Minimizer (ERM) の過剰リスクは、関数クラスの Rademacher 複雑性によって有界である。
高速統計率は局所ラデマッハ複雑性のツールを使用することで達成できる。
論文 参考訳（メタデータ） (2021-03-25T14:45:29Z) - On the Minimal Error of Empirical Risk Minimization [90.09093901700754]
回帰作業における経験的リスク最小化(ERM)手順の最小誤差について検討する。
私たちの鋭い下限は、データを生成するモデルの単純さに適応する可能性(あるいは不可能)に光を当てています。
論文 参考訳（メタデータ） (2021-02-24T04:47:55Z) - Outlier-Robust Learning of Ising Models Under Dobrushin's Condition [57.89518300699042]
本研究では, サンプルの一定割合が逆向きに破壊されるような外乱条件下で, ドブルシンの条件を満たすIsingモデルの学習問題について検討する。
我々の主な成果は、ほぼ最適誤差保証を伴うこの問題に対して、計算効率のよい最初の頑健な学習アルゴリズムを提供することである。
論文 参考訳（メタデータ） (2021-02-03T18:00:57Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳（メタデータ） (2020-06-22T21:12:31Z) - Learning Minimax Estimators via Online Learning [55.92459567732491]
確率分布のパラメータを推定するミニマックス推定器を設計する際の問題点を考察する。
混合ケースナッシュ平衡を求めるアルゴリズムを構築した。
論文 参考訳（メタデータ） (2020-06-19T22:49:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。