論文の概要: The Interplay Between Interpolation and Aggregation in Regression: Optimal Sample Complexity
- arxiv url: http://arxiv.org/abs/2605.29819v1
- Date: Thu, 28 May 2026 12:02:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:56.217574
- Title: The Interplay Between Interpolation and Aggregation in Regression: Optimal Sample Complexity
- Title（参考訳）: 回帰における補間と凝集の相互作用:最適なサンプル複雑度
- Authors: Mikael Møller Høgsgaard, Kasper Green Larsen, Liang-Yu Zou,
- Abstract要約: いくつかの仮説クラスは無限に多くの仮説を集約することによってのみ学習可能であることを示す。
3つの補間仮説を中央から組み合わせた極めて単純な集計手順が,これらの集計手順の中で最適であることが証明された。
- 参考スコア（独自算出の注目度）: 21.276981570672064
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work investigates theoretically the interplay between interpolation and aggregation in regression. We establish that the $γ$-graph dimension characterizes learnability for a broad class of natural aggregation procedures. Furthermore, we prove that an extremely simple aggregation procedure, combining three interpolating hypotheses via the median, is optimal among all these aggregation procedures, and is strictly more powerful than proper learning. Finally, we show that some hypothesis classes are learnable only by aggregating infinitely many hypotheses or by using non-interpolating aggregation rules (which may predict outside the range of their inputs), and any finite interpolating aggregation fails to achieve even trivial performance.
- Abstract（参考訳）: 本研究は, 回帰における補間と凝集の相互作用を理論的に検討する。
我々は,この$γ$-graph次元が,多種多様な自然集約手順の学習性を特徴付けることを証明した。
さらに,3つの補間仮説を中央から組み合わせた極めて単純な集約手順が,これらすべての集約手順の中で最適であり,適切な学習よりも強力であることを示す。
最後に、いくつかの仮説クラスは無限に多くの仮説を集約したり、非補間集約ルール(入力の範囲外を予測できるかもしれない)を用いることでのみ学習可能であることを示し、任意の有限補間アグリゲーションは、さらに簡単な性能を達成することができない。
関連論文リスト
- Rate optimal learning of equilibria from data [63.14746189846806]
マルチエージェント・イミテーション・ラーニング(MAIL)における理論的ギャップは,非対話的MAILの限界を特徴づけ,ほぼ最適なサンプル複雑性を持つ最初の対話的アルゴリズムを提示することによって解決する。
インタラクティブな設定では、報酬のない強化学習と対話型MAILを組み合わせたフレームワークを導入し、それをMAIL-WARMというアルゴリズムでインスタンス化する。
我々は,我々の理論を裏付ける数値的な結果を提供し,グリッドワールドのような環境において,行動クローンが学習に失敗する状況を示す。
論文 参考訳（メタデータ） (2025-10-10T12:28:35Z) - Generalization error of min-norm interpolators in transfer learning [2.7309692684728617]
最小ノルム補間器は、現代の機械学習アルゴリズムの暗黙の正規化限界として自然に現れる。
多くのアプリケーションでは、トレーニング中に限られた量のテストデータが利用できるが、この設定におけるmin-normの特性は十分に理解されていない。
我々はこれらの特徴を達成するために、新しい異方性局所法を確立した。
論文 参考訳（メタデータ） (2024-06-20T02:23:28Z) - Optimal Multi-Distribution Learning [88.3008613028333]
マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。
本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-12-08T16:06:29Z) - Optimal Multitask Linear Regression and Contextual Bandits under Sparse Heterogeneity [41.772562538698395]
マルチタスク学習手法は、データセット間の共通性を活用することにより効率を向上する。
マルチタスク線形回帰と文脈帯域幅をスパースヘテロジニティ下で検討した。
提案手法は,多くの下界を提供することにより,最小限の最適化が可能であることを示す。
論文 参考訳（メタデータ） (2023-06-09T22:48:13Z) - Malign Overfitting: Interpolation Can Provably Preclude Invariance [30.776243638012314]
補間にもかかわらずモデルを適切に一般化する「良性過剰適合」は、堅牢性や公正性が望ましい設定に好ましくない可能性があることを示す。
本研究では,非補間型分類器の確率的不変性を学習するアルゴリズムを提案し,解析する。
論文 参考訳（メタデータ） (2022-11-28T19:17:31Z) - Equilibrium Aggregation: Encoding Sets via Optimization [4.849550522970841]
平衡集約と呼ばれる最適化に基づく手法を提案する。
本研究は,エクイリビウム・アグリゲーションの特別な事例として,既存のアグリゲーション・メソッドを復元可能であることを示す。
我々は,その効率を中央値推定,クラスカウント,分子特性予測の3つのタスクで検証する。
論文 参考訳（メタデータ） (2022-02-25T16:13:55Z) - Predict then Interpolate: A Simple Algorithm to Learn Stable Classifiers [59.06169363181417]
Predict then Interpolate (PI) は環境全体にわたって安定な相関関係を学習するためのアルゴリズムである。
正しい予測と間違った予測の分布を補間することにより、不安定な相関が消えるオラクル分布を明らかにすることができる。
論文 参考訳（メタデータ） (2021-05-26T15:37:48Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳（メタデータ） (2020-06-22T21:12:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。