論文の概要: A Survey on Data-Dependent Worst-Case Generalization Bounds

• arxiv url: http://arxiv.org/abs/2605.13913v1
• Date: Wed, 13 May 2026 09:03:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-15 21:45:34.413571
• Title: A Survey on Data-Dependent Worst-Case Generalization Bounds
• Title（参考訳）: データ依存型ワーストケース一般化境界に関する調査研究
• Abstract要約: PAC-ベイズ理論をランダムなデータ依存仮説集合に拡張する。 我々は幾何学的および位相的記述子を用いて複雑性項を洗練する。 結果として得られる情報理論用語を安定性の仮定で置き換える。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks generalize well despite being heavily overparameterized, in apparent contradiction with classical learning theory based on uniform convergence over fixed hypothesis spaces. Uniform bounds over the entire parameter space are vacuous in this regime, and recent work has shown that non-vacuous guarantees can be recovered by restricting attention to the part of parameter space that the algorithm actually visits. This survey paper organizes this line of work around three steps: extending PAC-Bayesian theory to random, data-dependent hypothesis sets (arXiv:2404.17442); refining the complexity term with geometric and topological descriptors of the optimization trajectory, including fractal dimensions, alpha-weighted lifetime sums, and positive magnitude (arXiv:2006.09313, arXiv:2302.02766, arXiv:2407.08723); and replacing the resulting information-theoretic terms by stability assumptions (arXiv:2507.06775). We unify these contributions around a single template inequality and a head-to-head comparison of the resulting bounds.
• Abstract（参考訳）: ディープニューラルネットワークは非常に過度にパラメータ化されているにもかかわらず、固定仮説空間上の一様収束に基づく古典的学習理論と明らかに矛盾している。 パラメータ空間全体の均一な境界は、この状況下では空白であり、最近の研究は、アルゴリズムが実際に訪れたパラメータ空間の一部に注意を向けることによって、非空白の保証を回復できることを示した。 この調査では、PAC-ベイズ理論をランダムなデータ依存仮説集合(arXiv:2404.17442)に拡張し、フラクタル次元、アルファ重み付き寿命和、正等級を含む最適化軌道の幾何学的および位相的記述子で複雑性項を精製する(arXiv:2006.09313, arXiv:2302.02766, arXiv:2407.08723)。 これらのコントリビューションを、単一のテンプレート不等式と、結果のバウンダリのヘッド・ツー・ヘッド比較で統一する。

関連論文リスト

• Generalized nonparametric regression in reproducing kernel Hilbert spaces: Consistency and rates of convergence [0.0]
  我々は再生空間におけるM-levの包括的理論を開発する。 ソボ空間に対しては、混合滑らか性関数を持つ滑らか性空間に接続する新たなレートを得る。
  論文  参考訳（メタデータ） (2026-06-22T08:12:31Z)
• PAC-Bayes Bounds for Gibbs Posteriors via Singular Learning Theory [10.93258787701145]
  ギブス後方に対する明示的非漸近性PAC-Bayes一般化境界を導出する。 古典的な最悪ケースの複雑性境界は、大数の均一な法則に基づいているのとは異なり、我々の分析は、平均的な後続のリスク境界をもたらす。
  論文  参考訳（メタデータ） (2026-04-19T03:00:18Z)
• Robust Sequential Tracking via Bounded Information Geometry and Non-Parametric Field Actions [0.0]
  LiDARによるターゲット追跡、高周波暗号秩序フロー、量子状態トモグラフィーの3つの領域にわたる実証的なベンチマークでは、この情報ジオメトリが異常値を解析的に減らすことを実証している。
  論文  参考訳（メタデータ） (2026-03-13T21:40:44Z)
• Towards A Unified PAC-Bayesian Framework for Norm-based Generalization Bounds [63.47271262149291]
  PAC-Bayesianノルムに基づく一般化のための統一的なフレームワークを提案する。 提案手法の鍵となるのは、構造的重み摂動に関してネットワーク出力を定量化する感度行列である。 我々は、いくつかの既存のPAC-ベイジアン結果を特殊ケースとして回復する一般化境界の族を導出する。
  論文  参考訳（メタデータ） (2026-01-13T00:42:22Z)
• Mutual Information Free Topological Generalization Bounds via Stability [46.63069403118614]
  既存の戦略から離れる新しい学習理論フレームワークを導入する。 トラジェクトリ安定アルゴリズムの一般化誤差をTDA項で上界化できることを示す。
  論文  参考訳（メタデータ） (2025-07-09T12:03:25Z)
• Blessing of Dimensionality for Approximating Sobolev Classes on Manifolds [14.183849746284816]
  有限な統計的複雑性の関数を持つ最適一様近似を考える。 特に、コンパクト多様体上の有界ソボレフ函数の類を近似するのに要する統計複雑性が下から有界であることを示す。
  論文  参考訳（メタデータ） (2024-08-13T15:56:42Z)
• A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
  近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。 本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
  論文  参考訳（メタデータ） (2024-05-24T21:09:19Z)
• Conformal inference for regression on Riemannian Manifolds [45.560812800359685]
  回帰シナリオの予測セットは、応答変数が$Y$で、多様体に存在し、共変変数が$X$で、ユークリッド空間にあるときに検討する。 我々は、多様体上のこれらの領域の経験的バージョンが、その集団に対するほぼ確実に収束していることを証明する。
  論文  参考訳（メタデータ） (2023-10-12T10:56:25Z)
• Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
  本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。 我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。 全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• PAC-Chernoff Bounds: Understanding Generalization in the Interpolation Regime [6.645111950779666]
  本稿では,補間器の完全密度を示す分布依存型PAC-Chernoff境界を提案する。 我々は、ある補間子がなぜ例外的な一般化を示すのかを示す統一的な理論的枠組みを提示する。
  論文  参考訳（メタデータ） (2023-06-19T14:07:10Z)
• Convergence of Adam Under Relaxed Assumptions [72.24779199744954]
  我々は、アダムがより現実的な条件下で、$O(epsilon-4)$勾配複雑性で$epsilon$-定常点に収束することを示している。 また、Adamの分散還元版を$O(epsilon-3)$の加速勾配複雑性で提案する。
  論文  参考訳（メタデータ） (2023-04-27T06:27:37Z)
• Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
  オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。 我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
  論文  参考訳（メタデータ） (2021-12-29T18:46:52Z)
• Partial Counterfactual Identification from Observational and Experimental Data [83.798237968683]
  観測データと実験データの任意の組み合わせから最適境界を近似する有効なモンテカルロアルゴリズムを開発した。 我々のアルゴリズムは、合成および実世界のデータセットに基づいて広範囲に検証されている。
  論文  参考訳（メタデータ） (2021-10-12T02:21:30Z)
• Asymptotic Analysis of an Ensemble of Randomly Projected Linear Discriminants [94.46276668068327]
  [1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。 我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。 また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
  論文  参考訳（メタデータ） (2020-04-17T12:47:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。