論文の概要: Sign Betting for Misspecified Regression: Variance Adaptivity and Optimal Approximation
- arxiv url: http://arxiv.org/abs/2610.20903v1
- Date: Wed, 14 Oct 2026 20:33:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 19:13:16.064125
- Title: Sign Betting for Misspecified Regression: Variance Adaptivity and Optimal Approximation
- Title（参考訳）: 不特定回帰のための符号ベッティング:可変適応性と最適近似
- Abstract要約: Baraud & Maillard (2025) の min-max 推定器を解析し,これをエンフサイン・ベッティング回帰 (enmphsign-betting regression) と呼ぶ。
実現可能性の下で、我々の境界は平均条件分散に適応し、Li et al. (2026) の分散適応率を回復する。
正規学習者は分布自由で高確率な$L_$oracle不等式を満たすことができず、普遍近似係数を厳密に3以下とすることで、適切な学習のための最適な普遍近似係数を特徴づける。
- 参考スコア（独自算出の注目度）: 29.22274935924993
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study bounded regression under model misspecification, evaluating a function $f$ by its $L_1(P_X)$ distance to the conditional mean $η(x)=\mathbb{E}[Y\mid X=x]$, rather than the standard $L_2(P_X)$. This $L_1$ metric is natural for downstream decision problems such as bandits and reinforcement learning. We analyze the min--max estimator of Baraud & Maillard (2025), which we call \emph{sign-betting regression}. Our main results show that sign-betting regression achieves high-probability $L_1$ oracle inequalities under misspecification. Under realizability, our bound adapts to the average conditional variance and recovers the variance-adaptive rate of Li et al. (2026). We further characterize the optimal universal approximation factor for proper learning by showing that sign betting achieves factor 3, while no proper learner can satisfy a distribution-free, high-probability $L_1$ oracle inequality with a universal approximation factor strictly below 3. We extend the upper-bound analysis beyond finite classes and complement the theory with experiments in synthetic and real-world model-selection tasks.
- Abstract（参考訳）: モデルの非特異性の下で有界回帰を研究し、標準的な$L_2(P_X)$ではなく、条件平均$η(x)=\mathbb{E}[Y\mid X=x]$までの距離で関数$f$を評価する。
この$L_1$メトリックは、バンディットや強化学習などの下流決定問題には自然である。
Baraud & Maillard (2025) の min-max 推定器を解析し、これを \emph{sign-betting regression} と呼ぶ。
本研究の主目的は,サインベッティング回帰が不特定条件下で高い確率でL_1$オラクル不等式を達成できることである。
実現可能性の下で、我々の境界は平均条件分散に適応し、Li et al (2026) の分散適応率を回復する。
正規学習者は分布自由で高確率な$L_1$oracle不等式を満たすことができず、普遍近似係数は3を厳密に下回る。
我々は、上界解析を有限類を超えて拡張し、合成および実世界のモデル選択タスクの実験で理論を補完する。
関連論文リスト
- Sample complexity of variance-reduced policy gradient: weaker assumptions and lower bounds [61.41272490044518]
REINFORCEの分散還元バージョンは、$O(-3)$サンプルの複雑さを改善して$$-stationary点を求める。
本稿では, 従来の重みの分散を仮定することなく, 同一レートを達成できる, 防御重要度サンプリングに基づくアルゴリズムを提案する。
論文 参考訳（メタデータ） (2026-10-02T11:43:52Z) - Optimal use of a black-box learner in semiparametric estimation [2.8597160727750564]
提案手法は, ブラックボックス回帰推定による重みの編集を行うためのトランスダクティブ・アディショナル・モーメント・エディティング(TAME)を提案する。
TAMEは初期ブラックボックスの推定値と組み合わせることができ、ニュアンス障害が校正された場合のDML保証を厳密に改善することができる。
論文 参考訳（メタデータ） (2026-07-23T17:26:17Z) - Optimally taming biases in black-box models for efficient semiparametric estimation [13.159615239651258]
補助関数 $mathbbE[T|X=x]$ が一貫して推定できない状態において、標準 DML レートが最適でないことを示す。
この結果から,新たな仮定を課すことなく,ニュアンス推定の1次誤差を除去できるという原理が得られた。
論文 参考訳（メタデータ） (2026-06-04T16:36:18Z) - How Neural Reward Models Learn Features for Policy Optimization: A Single-Index Analysis [53.063298916923976]
r*(x) = *(langle *, xrangle)$ と $x sim N(0, I_d)$ でガウスの単一インデックスモデルでフィードバックを研究する。
まず、報酬重み付きサンプルから隠れた方向を*$で学習し、次に重み付きリッジ回帰により読み出し層に適合する2段階のニューラル報酬モデルを分析する。
論文 参考訳（メタデータ） (2026-05-23T22:00:38Z) - Convergence Rate of a Functional Learning Method for Contextual Stochastic Optimization [0.6015898117103067]
我々は,条件付き予測を共同で推定し,外的目的を最適化する同時学習最適化アルゴリズムを解析する。
我々は,この手法が次数$mathcalObig (1/sqrtNbig)$の収束率を達成することを証明した。
論文 参考訳（メタデータ） (2026-03-13T14:53:35Z) - Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。
任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。
本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
論文 参考訳（メタデータ） (2026-02-19T17:21:15Z) - Optimal Multi-Distribution Learning [88.3008613028333]
マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。
本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-12-08T16:06:29Z) - The Adaptive $τ$-Lasso: Robustness and Oracle Properties [12.06248959194646]
本稿では,高次元データセット解析のためのロバストな$tau$-regression推定器の正規化版を紹介する。
得られた推定器はアダプティブ $tau$-Lasso と呼ばれ、外れ値や高平均点に対して堅牢である。
外れ値と高平均点に直面して、適応 $tau$-Lasso と $tau$-Lasso 推定器は、競合する正規化推定器の最高のパフォーマンスを達成または一致させる。
論文 参考訳（メタデータ） (2023-04-18T21:34:14Z) - An Exponential Lower Bound for Linearly-Realizable MDPs with Constant
Suboptimality Gap [66.75488143823337]
また, 指数的標本複雑度は, 一定の準最適ギャップを仮定しても, 未だに保持していることを示した。
おそらく驚くことに、これはオンラインrl設定と生成モデル設定の指数関数的な分離を意味する。
論文 参考訳（メタデータ） (2021-03-23T17:05:54Z) - A Precise High-Dimensional Asymptotic Theory for Boosting and
Minimum-$\ell_1$-Norm Interpolated Classifiers [3.167685495996986]
本稿では,分離可能なデータの強化に関する高精度な高次元理論を確立する。
統計モデルのクラスでは、ブースティングの普遍性誤差を正確に解析する。
また, 推力試験誤差と最適ベイズ誤差の関係を明示的に説明する。
論文 参考訳（メタデータ） (2020-02-05T00:24:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。