論文の概要: Brownian Kernel Ladders
- arxiv url: http://arxiv.org/abs/2606.15812v1
- Date: Sun, 14 Jun 2026 13:27:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:33.868025
- Title: Brownian Kernel Ladders
- Title(参考訳): Brownian (複数形 Brownians)
- Abstract要約: 積分再生カーネルヒルベルト空間の階層構造であるブラウンカーネルはしご(BKL)を導入する。
BKL空間は準バナッハ空間を形成し、深さ依存的なハルダー正則性推定を満足し、深さに関して厳密な単調性を示す。
本結果は,ディープラーニングにおける合成表現を研究するための数学的に抽出可能な階層型関数空間フレームワークを提供する。
- 参考スコア(独自算出の注目度): 3.924521334514384
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Constructing mathematically tractable function spaces that capture hierarchical compositional representations remains a central challenge in statistical learning theory. We introduce Brownian kernel ladders (BKLs), a recursively defined hierarchy of integral reproducing kernel Hilbert spaces generated through Brownian-kernel integral constructions. Starting from linear functionals, each layer is obtained by integrating Brownian kernels over probability measures supported on subsets of the previous layer, yielding a recursive function-space model in which depth is encoded directly through the hierarchy. Based on this framework, we define canonical BKL spaces together with an associated complexity functional. We establish several analytical and statistical properties of these spaces. In particular, we show that BKL spaces form quasi-Banach spaces, satisfy depth-dependent Hölder regularity estimates, and exhibit strict monotonicity with respect to depth. We further prove existence results for regularized empirical risk minimization and derive Gaussian complexity bounds that remain uniformly controlled with respect to both the ambient dimension and the hierarchy depth. A key ingredient of the analysis is a combinatorial proof technique based on recursive subset decompositions and Brownian-kernel threshold representations. These estimates yield excess-risk guarantees of near-parametric order for regularized empirical risk minimization over BKL spaces. Our results provide a mathematically tractable hierarchical function-space framework for studying compositional representations in deep learning.
- Abstract(参考訳): 階層的な構成表現を捉える数学的に抽出可能な関数空間を構築することは、統計学習理論における中心的な課題である。
ブラウン-カーネル積分構造から生成される積分再生カーネルヒルベルト空間の帰納的に定義された階層であるブラウンカーネルはしご(BKLs)を導入する。
線形汎函数から始めると、各層は前層のサブセット上で支持される確率測度上でブラウン核を統合することで得られる。
この枠組みに基づいて、標準的なBKL空間と関連する複雑性関数を定義する。
これらの空間のいくつかの解析的および統計的性質を確立する。
特に、BKL空間が準バナッハ空間を形成し、深さ依存のヘルダー正則性推定を満足し、深さに関して厳密な単調性を示すことを示す。
さらに、正規化された経験的リスク最小化と、周囲次元と階層深さの両方に関して一様に制御されたガウス複雑性境界の導出について、その存在を証明した。
この分析の重要な要素は、再帰的部分分解とブラウン-カーネルしきい値表現に基づく組合せ証明技術である。
これらの推定は、BKL空間上の正規化された経験的リスク最小化に対して、ほぼパラメトリックな順序の余剰リスクを保証する。
本結果は,ディープラーニングにおける合成表現を研究するための数学的に抽出可能な階層型関数空間フレームワークを提供する。
関連論文リスト
- Operator-Theoretic Generalization Bounds for Multitask Deep Learning [0.0254890465057467]
深層多出力関数クラスに対する演算子理論の一般化境界を開発する。
Rademacher は可逆かつ拡張可能な射影型アーキテクチャの複雑さを導出する。
論文 参考訳(メタデータ) (2026-08-17T00:36:57Z) - Variation Brownian Kernel Ladders [0.0]
本稿では,パス原子関数空間フレームワークであるemphVariation Brownian Kernel Ladder (VBKL)を紹介する。
線形射影から始めて、各原子はブラウン再生核ヒルベルト空間から単位球プロファイルを構成する。
VBKL空間は、完了した辞書の符号付き測度変化包である。
論文 参考訳(メタデータ) (2026-08-14T02:15:08Z) - An RKHS Perspective on Tree Ensembles [0.0]
我々はランダムフォレストとグラディエントブースティングを解析するための理論的枠組みを開発する。
我々は、ランダムフォレスト予測器が、ペナル化された経験的リスク関数のユニークな最小化器として特徴づけられることを示す。
このフレームワークの重要な特徴は、カーネルとRKHSの幾何学の両方がデータに依存しており、ツリーベースのアンサンブルの強い経験的性能に関する理論的説明を提供することである。
論文 参考訳(メタデータ) (2025-11-29T08:54:37Z) - A Derandomization Framework for Structure Discovery: Applications in Neural Networks and Beyond [25.592330047318274]
構造発見の側面に注目し、より弱い仮定の下で研究する。
私たちのアプローチの中核は、キー$textitderandomization$ lemmaです。
この補題は構造発見を直接説明し、他の領域で直ちに適用することができる。
論文 参考訳(メタデータ) (2025-10-22T08:55:00Z) - Graph-based Clustering Revisited: A Relaxation of Kernel $k$-Means Perspective [73.18641268511318]
本稿では,クラスタリング結果を導出するための正規制約のみを緩和するグラフベースのクラスタリングアルゴリズムを提案する。
二重制約を勾配に変換するために、非負の制約をクラス確率パラメータに変換する。
論文 参考訳(メタデータ) (2025-09-23T09:14:39Z) - Why and When Deep is Better than Shallow: An Implementation-Agnostic State-Transition View of Depth Supremacy [15.310099705870114]
一般距離空間上で作用する抽象的状態遷移半群として深部モデルを定式化する。
我々は、実装(例えば、ReLUネット、トランスフォーマー、チェーンオブ思想)を抽象状態遷移から分離する。
我々は,その依存が抽象的な深さ-$k$ネットワークにのみ依存し,実装に依存しないバイアス分散分解を証明した。
論文 参考訳(メタデータ) (2025-05-21T03:32:30Z) - On The Sample Complexity Bounds In Bilevel Reinforcement Learning [49.19950489963245]
二段階強化学習(BRL)は、生成モデルを調整するための強力なフレームワークとして登場した。
連続状態-作用複雑性において$mathcalO(epsilon)$の最初のサンプルを示す。
我々の分析は、既存の$mathcalO(epsilon)$のバウンダリで、複雑さを改善します。
論文 参考訳(メタデータ) (2025-03-22T04:22:04Z) - Finding Alignments Between Interpretable Causal Variables and
Distributed Neural Representations [62.65877150123775]
因果抽象化は、説明可能な人工知能のための有望な理論的枠組みである。
既存の因果抽象法では、高レベルモデルと低レベルモデルの間のアライメントをブルートフォースで探索する必要がある。
これらの制約を克服する分散アライメントサーチ(DAS)を提案する。
論文 参考訳(メタデータ) (2023-03-05T00:57:49Z) - Ensemble forecasts in reproducing kernel Hilbert space family [0.0]
高次元力学系のアンサンブルに基づく推定とシミュレーションのための方法論的枠組みを提案する。
そのために、力学系は、力学によって駆動されるカーネル関数を持つ再生カーネルヒルベルト空間(RKHS)の族に埋め込まれる。
論文 参考訳(メタデータ) (2022-07-29T12:57:50Z) - Reinforcement Learning from Partial Observation: Linear Function Approximation with Provable Sample Efficiency [111.83670279016599]
部分観察決定過程(POMDP)の無限観測および状態空間を用いた強化学習について検討した。
線形構造をもつPOMDPのクラスに対する部分可観測性と関数近似の最初の試みを行う。
論文 参考訳(メタデータ) (2022-04-20T21:15:38Z) - Lattice-Based Methods Surpass Sum-of-Squares in Clustering [98.46302040220395]
クラスタリングは教師なし学習における基本的なプリミティブである。
最近の研究は、低次手法のクラスに対する低い境界を確立している。
意外なことに、この特定のクラスタリングモデルのtextitdoesは、統計的-計算的ギャップを示さない。
論文 参考訳(メタデータ) (2021-12-07T18:50:17Z) - Provable Hierarchy-Based Meta-Reinforcement Learning [50.17896588738377]
HRLをメタRL設定で解析し、下流タスクで使用するメタトレーニング中に学習者が潜在階層構造を学習する。
我々は、この自然階層の標本効率の回復を保証し、抽出可能な楽観主義に基づくアルゴリズムとともに「多様性条件」を提供する。
我々の境界は、時間的・状態的・行動的抽象化などのHRL文献に共通する概念を取り入れており、我々の設定と分析が実際にHRLの重要な特徴を捉えていることを示唆している。
論文 参考訳(メタデータ) (2021-10-18T17:56:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。