論文の概要: Exact Finite-Sample Variance Decomposition of Subagging: A Spectral Filtering Perspective

• arxiv url: http://arxiv.org/abs/2604.10469v1
• Date: Sun, 12 Apr 2026 05:47:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:16.034742
• Title: Exact Finite-Sample Variance Decomposition of Subagging: A Spectral Filtering Perspective
• Title（参考訳）: サブガジンの励起有限サンプル分散分解:スペクトルフィルタリングの観点から
• Authors: Ye Su, Mingrui Ye, Yining Wang, Jipeng Guo, Yong Liu,
• Abstract要約: 我々はHoeffding-ANOVA分解を用いて、サブゲージの最初の正確な有限サンプル分散分解を導出する。 本研究は,低次構造信号を保持するとともに,幾何係数が$c$に近づくことにより,$c$-次相互作用のばらつきが生じることを示す。 このデカップリングは、デフォルトのベースラインが高容量の補間器をアンダーレギュラー化することが多い理由を明らかにし、代わりに急激な高次ノイズを指数関数的に抑制するために、より小さい$を要求する。
• 参考スコア（独自算出の注目度）: 17.68593329351594
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Standard resampling ratios (e.g., $α\approx 0.632$) are widely used as default baselines in ensemble learning for three decades. However, how these ratios interact with a base learner's intrinsic functional complexity in finite samples lacks a exact mathematical characterization. We leverage the Hoeffding-ANOVA decomposition to derive the first exact, finite-sample variance decomposition for subagging, applicable to any symmetric base learner without requiring asymptotic limits or smoothness assumptions. We establish that subagging operates as a deterministic low-pass spectral filter: it preserves low-order structural signals while attenuating $c$-th order interaction variance by a geometric factor approaching $α^c$. This decoupling reveals why default baselines often under-regularize high-capacity interpolators, which instead require smaller $α$ to exponentially suppress spurious high-order noise. To operationalize these insights, we propose a complexity-guided adaptive subsampling algorithm, empirically demonstrating that dynamically calibrating $α$ to the learner's complexity spectrum consistently improves generalization over static baselines.
• Abstract（参考訳）: 標準再サンプリング比率(例:$α\approx 0.632$)は、30年間、アンサンブル学習のデフォルトベースラインとして広く使用されている。 しかし、これらの比率が、有限標本における基礎学習者の本質的な機能的複雑さとどのように相互作用するかは、正確な数学的特徴を欠いている。 我々はHoeffding-ANOVA分解を利用して、漸近的制限や滑らかさの仮定を必要とせず、任意の対称ベース学習者に適用可能な、サブゲージのための最初の正確な有限サンプル分散分解を導出する。 低次構造信号を保存するとともに、$α^c$に近づく幾何学的因子によって$c$2次相互作用のばらつきを減衰させる。 このデカップリングは、デフォルトのベースラインが高容量の補間器をアンダーレギュラー化することが多い理由を明らかにし、代わりに急激な高次ノイズを指数関数的に抑制するために、より小さな$α$を必要としている。 これらの知見を運用するために,学習者の複雑性スペクトルに対するα$の動的校正が静的ベースラインの一般化を一貫して改善することを実証的に示す,複雑性誘導適応サブサンプリングアルゴリズムを提案する。

関連論文リスト

• Provably Adaptive Linear Approximation for the Shapley Value and Beyond [73.0940890296463]
  基本的で長期にわたる課題は、その効率的な近似である。 一般に用いられるすべての半値に対して$P(|hatboldsymbol-boldsymbol|_2geq)leq$を必要とする線形空間アルゴリズムを開発する。 本アルゴリズムは,各ユーティリティ関数の平均二乗誤差の明示的最小化を可能にする。
  論文  参考訳（メタデータ） (2026-04-09T16:38:14Z)
• Interpretable Operator Learning for Inverse Problems via Adaptive Spectral Filtering: Convergence and Discretization Invariance [0.0]
  本稿では,新たな演算子学習フレームワークであるSC-Net(Spectral Correction Network)を提案する。 SC-Netはフォワード演算子のスペクトル領域で動作し、信号対雑音比に基づいてスペクトル係数を重み付けするポイントワイズフィルタを学ぶ。
  論文  参考訳（メタデータ） (2026-03-21T02:19:19Z)
• Grokking as a Variance-Limited Phase Transition: Spectral Gating and the Epsilon-Stability Threshold [0.0]
  一般化には、適応に固有のテクスタイニソトロピックな修正が必要であり、これは溶液の接空間にノイズを誘導する。 この研究は、モジュラー演算タスクにおけるAdamWのダイナミクスを分析し、一般化から記憶への遷移を制御するスペクトルゲーティングのメカニズムを明らかにする。
  論文  参考訳（メタデータ） (2026-03-16T16:18:18Z)
• Regularized Online RLHF with Generalized Bilinear Preferences [68.44113000390544]
  一般的な嗜好を伴う文脈的オンラインRLHFの問題を考える。 一般化された双線形選好モデルを用いて、低ランクなスキュー対称行列による選好を捉える。 グリーディポリシーの双対ギャップは推定誤差の正方形によって有界であることを示す。
  論文  参考訳（メタデータ） (2026-02-26T15:27:53Z)
• Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
  自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。 任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。 本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
  論文  参考訳（メタデータ） (2026-02-19T17:21:15Z)
• Perturbation Bounds for Low-Rank Inverse Approximations under Noise [14.907968476859219]
  スペクトルノルム誤差 $| (tildeA-1)_p - A_p-1 |$ for a $ntimes n$ symmetric matrix $A$, where $A_p-1$ is the best rank-(p) approximation of $A-1$, and $tildeA = A + E$ is a noisy observed。 ノイズの軽度な仮定の下で、固有ギャップ、スペクトル崩壊とどのように誤差がスケールするかを明らかにする鋭い非漸近境界を導出する。
  論文  参考訳（メタデータ） (2025-10-29T14:40:12Z)
• Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
  本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。 最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
  論文  参考訳（メタデータ） (2023-10-20T12:45:12Z)
• Variance Reduced Halpern Iteration for Finite-Sum Monotone Inclusions [18.086061048484616]
  平衡問題の幅広いクラスをモデル化した有限サム単調包含問題について検討する。 我々の主な貢献は、複雑性の保証を改善するために分散還元を利用する古典的ハルパーン反復の変種である。 我々は、この複雑さが単調なリプシッツ設定では改善できないと論じる。
  論文  参考訳（メタデータ） (2023-10-04T17:24:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。