論文の概要: Tight Bounds for Data-driven Multiple Hyper-parameter Tuning with Structured Loss Function

• arxiv url: http://arxiv.org/abs/2608.17343v1
• Date: Tue, 18 Aug 2026 04:02:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-19 21:40:53.214735
• Title: Tight Bounds for Data-driven Multiple Hyper-parameter Tuning with Structured Loss Function
• Title（参考訳）: 構造的損失関数を持つデータ駆動型多重パラメータチューニングのためのタイト境界
• Abstract要約: 多次元データ駆動チューニングのための厳密な擬似次元境界を導入する。 異なるサンプルレギュレーションにまたがって問題インスタンスを構築することにより、上界が厳密に飽和していることが証明される。 フレームワークを拡張して、一般的な二段階のバリデーション-ロスチューニングとより広範な半代数的アプリケーションに対応します。
• 参考スコア（独自算出の注目度）: 18.20955065779317
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Data-driven algorithm design frames hyperparameter tuning as a statistical learning problem, but establishing generalization guarantees remains challenging due to the implicit, non-smooth dependence of model performance on hyperparameters. Existing multi-dimensional bounds under piecewise-polynomial assumptions remain theoretically loose and lack comprehensive lower bounds. We resolve this by establishing tight pseudo-dimension bounds for multi-dimensional data-driven tuning. First, we refine the learning-theoretic upper bound using real algebraic geometry; by analyzing invariant connected sign cells during block elimination rather than isolated sign vectors, we avoid topological over-counting to derive strictly sharper sample complexities. Second, we present a multi-regime lower-bound framework that disentangles combinatorial and algebraic capacities. By constructing shattered problem instances across distinct regimes, we prove our upper bounds are tightly saturated. Finally, we extend our topological framework to accommodate general bi-level validation-loss tuning and broader semi-algebraic applications.
• Abstract（参考訳）: データ駆動型アルゴリズムの設計は、ハイパーパラメータチューニングを統計的学習問題として捉えているが、ハイパーパラメータに対するモデル性能の暗黙的非滑らかな依存のため、一般化の保証を確立することは依然として困難である。 ピースワイズ・ポリノミカルな仮定の下での既存の多次元境界は理論上は緩く、包括的下界が欠如している。 多次元データ駆動チューニングのための厳密な擬似次元境界を確立することで、この問題を解決する。 まず、実代数幾何学を用いて学習理論上界を洗練させ、孤立手形ベクトルではなくブロック除去中の不変結合手形セルを解析することにより、より厳密な標本複雑度を導出する位相的オーバーカウントを回避する。 第2に、組合せ的および代数的容量をアンタングルするマルチレジーム下界フレームワークを提案する。 異なるレギュレーションにまたがって破砕された問題インスタンスを構築することにより、上界が厳密に飽和していることが証明される。 最後に,このトポロジカル・フレームワークを拡張して,一般的な二段階検証損失チューニングとより広範な半代数的応用を実現する。

関連論文リスト

• Restricted Dynamic Geometric Complexity: Path-Space Reduction and Möbius--Jacobi Response [0.0]
  経路空間値問題として制限された動的幾何学的複雑性について検討する。 主な応答結果は、アダマール状態空間におけるグローバルである。
  論文  参考訳（メタデータ） (2026-07-08T09:36:45Z)
• Pseudospectral Bounds for Transient Amplification in Coupled Gradient Descent [0.0]
  ブロック三角形ヤコビアンに対する擬スペクトル理論を開発する。 Kreiss 定数は、対角ブロックがスペクトル半径で最大 1$ の対称であるとき、$K(J) leq 2/ (1-) + |C|/(4 (1-))$ を満たすことを示す。 線形四元数問題、IQCに基づく比較、ニューラル・ネットワーク・トレーニングの実験は、この理論を裏付けるものである。
  論文  参考訳（メタデータ） (2026-06-01T20:42:04Z)
• Fitting Unknown Number of Hyperplanes with Manifold Optimization [57.48093263119306]
  未知数の線形平面をデータに適合させることは、機械学習の根本的な課題である。 既存のアプローチはしばしば最適な最適化に苦しむか、幾何的整合性に欠ける。
  論文  参考訳（メタデータ） (2026-05-27T14:02:20Z)
• A Mean Curvature Approach to Boundary Detection: Geometric Insights for Unsupervised Learning [52.452902154360565]
  本稿では,幾何学的機械学習に基づく新しい幾何学的フレームワークであるMean Curvature Boundary Points (MCBP)を紹介する。 MCBPはデータ多様体の固有曲率を明示的にモデル化し、原理化された多様体のパラメトリゼーションを必要としない点平均曲率を計算する。 合成および実世界のデータセットの実験により、MCBPはクラスタリング性能を一貫して改善することを示した。
  論文  参考訳（メタデータ） (2026-05-05T20:19:09Z)
• PAC-Bayes Bounds for Gibbs Posteriors via Singular Learning Theory [10.93258787701145]
  ギブス後方に対する明示的非漸近性PAC-Bayes一般化境界を導出する。 古典的な最悪ケースの複雑性境界は、大数の均一な法則に基づいているのとは異なり、我々の分析は、平均的な後続のリスク境界をもたらす。
  論文  参考訳（メタデータ） (2026-04-19T03:00:18Z)
• Schrödinger bridge for generative AI: Soft-constrained formulation and convergence analysis [6.584866740785309]
  いわゆるソフト拘束型シュリンガー橋問題(SCSBP)について検討する。 ペナルティが大きくなるにつれて、制御関数と値関数の両方が線形速度で古典的SBPのものと収束することが証明される。 これらの結果から,ソフト拘束ブリッジの定量的収束保証が得られた。
  論文  参考訳（メタデータ） (2025-10-13T18:29:15Z)
• On The Sample Complexity Bounds In Bilevel Reinforcement Learning [49.19950489963245]
  二段階強化学習(BRL)は、生成モデルを調整するための強力なフレームワークとして登場した。 連続状態-作用複雑性において$mathcalO(epsilon)$の最初のサンプルを示す。 我々の分析は、既存の$mathcalO(epsilon)$のバウンダリで、複雑さを改善します。
  論文  参考訳（メタデータ） (2025-03-22T04:22:04Z)
• A space-decoupling framework for optimization on bounded-rank matrices with orthogonally invariant constraints [8.902244235284229]
  有界ランク行列の最適化のための空間分離フレームワークを提案する。 結合制約の接円錐は各制約の接円錐の交叉であることを示す。 改定問題と原問題との等価性を明らかにする。
  論文  参考訳（メタデータ） (2025-01-23T16:54:03Z)
• Multi-Grid Tensorized Fourier Neural Operator for High-Resolution PDEs [93.82811501035569]
  本稿では,メモリ要求を低減し,より一般化したデータ効率・並列化可能な演算子学習手法を提案する。 MG-TFNOは、実世界の実世界の現象の局所的構造と大域的構造を活用することで、大規模な分解能にスケールする。 乱流ナビエ・ストークス方程式において150倍以上の圧縮で誤差の半分以下を達成できる優れた性能を示す。
  論文  参考訳（メタデータ） (2023-09-29T20:18:52Z)
• Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
  本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。 我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。 全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• Conditional gradient methods for stochastically constrained convex minimization [54.53786593679331]
  構造凸最適化問題に対する条件勾配に基づく2つの新しい解法を提案する。 私たちのフレームワークの最も重要な特徴は、各イテレーションで制約のサブセットだけが処理されることです。 提案アルゴリズムは, 条件勾配のステップとともに, 分散の低減と平滑化に頼り, 厳密な収束保証を伴っている。
  論文  参考訳（メタデータ） (2020-07-07T21:26:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。