論文の概要: A Survey on Data-Dependent Worst-Case Generalization Bounds

• arxiv url: http://arxiv.org/abs/2605.13913v1
• Date: Wed, 13 May 2026 09:03:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 21:45:34.413571
• Title: A Survey on Data-Dependent Worst-Case Generalization Bounds
• Title（参考訳）: データ依存型ワーストケース一般化境界に関する調査研究
• Authors: Hubert Leroux, Jean Marcus, Julien Roger,
• Abstract要約: PAC-ベイズ理論をランダムなデータ依存仮説集合に拡張する。 我々は幾何学的および位相的記述子を用いて複雑性項を洗練する。 結果として得られる情報理論用語を安定性の仮定で置き換える。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks generalize well despite being heavily overparameterized, in apparent contradiction with classical learning theory based on uniform convergence over fixed hypothesis spaces. Uniform bounds over the entire parameter space are vacuous in this regime, and recent work has shown that non-vacuous guarantees can be recovered by restricting attention to the part of parameter space that the algorithm actually visits. This survey paper organizes this line of work around three steps: extending PAC-Bayesian theory to random, data-dependent hypothesis sets (arXiv:2404.17442); refining the complexity term with geometric and topological descriptors of the optimization trajectory, including fractal dimensions, alpha-weighted lifetime sums, and positive magnitude (arXiv:2006.09313, arXiv:2302.02766, arXiv:2407.08723); and replacing the resulting information-theoretic terms by stability assumptions (arXiv:2507.06775). We unify these contributions around a single template inequality and a head-to-head comparison of the resulting bounds.
• Abstract（参考訳）: ディープニューラルネットワークは非常に過度にパラメータ化されているにもかかわらず、固定仮説空間上の一様収束に基づく古典的学習理論と明らかに矛盾している。 パラメータ空間全体の均一な境界は、この状況下では空白であり、最近の研究は、アルゴリズムが実際に訪れたパラメータ空間の一部に注意を向けることによって、非空白の保証を回復できることを示した。 この調査では、PAC-ベイズ理論をランダムなデータ依存仮説集合(arXiv:2404.17442)に拡張し、フラクタル次元、アルファ重み付き寿命和、正等級を含む最適化軌道の幾何学的および位相的記述子で複雑性項を精製する(arXiv:2006.09313, arXiv:2302.02766, arXiv:2407.08723)。 これらのコントリビューションを、単一のテンプレート不等式と、結果のバウンダリのヘッド・ツー・ヘッド比較で統一する。

関連論文リスト

• PAC-Bayes Bounds for Gibbs Posteriors via Singular Learning Theory [10.93258787701145]
  ギブス後方に対する明示的非漸近性PAC-Bayes一般化境界を導出する。 古典的な最悪ケースの複雑性境界は、大数の均一な法則に基づいているのとは異なり、我々の分析は、平均的な後続のリスク境界をもたらす。
  論文  参考訳（メタデータ） (2026-04-19T03:00:18Z)
• Mutual Information Free Topological Generalization Bounds via Stability [46.63069403118614]
  既存の戦略から離れる新しい学習理論フレームワークを導入する。 トラジェクトリ安定アルゴリズムの一般化誤差をTDA項で上界化できることを示す。
  論文  参考訳（メタデータ） (2025-07-09T12:03:25Z)
• Blessing of Dimensionality for Approximating Sobolev Classes on Manifolds [14.183849746284816]
  有限な統計的複雑性の関数を持つ最適一様近似を考える。 特に、コンパクト多様体上の有界ソボレフ函数の類を近似するのに要する統計複雑性が下から有界であることを示す。
  論文  参考訳（メタデータ） (2024-08-13T15:56:42Z)
• A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
  近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。 本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
  論文  参考訳（メタデータ） (2024-05-24T21:09:19Z)
• Conformal inference for regression on Riemannian Manifolds [45.560812800359685]
  回帰シナリオの予測セットは、応答変数が$Y$で、多様体に存在し、共変変数が$X$で、ユークリッド空間にあるときに検討する。 我々は、多様体上のこれらの領域の経験的バージョンが、その集団に対するほぼ確実に収束していることを証明する。
  論文  参考訳（メタデータ） (2023-10-12T10:56:25Z)
• Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
  本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。 我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。 全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• PAC-Chernoff Bounds: Understanding Generalization in the Interpolation Regime [6.645111950779666]
  本稿では,補間器の完全密度を示す分布依存型PAC-Chernoff境界を提案する。 我々は、ある補間子がなぜ例外的な一般化を示すのかを示す統一的な理論的枠組みを提示する。
  論文  参考訳（メタデータ） (2023-06-19T14:07:10Z)
• Convergence of Adam Under Relaxed Assumptions [72.24779199744954]
  我々は、アダムがより現実的な条件下で、$O(epsilon-4)$勾配複雑性で$epsilon$-定常点に収束することを示している。 また、Adamの分散還元版を$O(epsilon-3)$の加速勾配複雑性で提案する。
  論文  参考訳（メタデータ） (2023-04-27T06:27:37Z)
• Partial Counterfactual Identification from Observational and Experimental Data [83.798237968683]
  観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。 我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
  論文  参考訳（メタデータ） (2021-10-12T02:21:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。