論文の概要: Constructive Universal Approximation by Infinite-Dimensional Neural Networks via Gaussian-Weighted Ridgelet Transform
- arxiv url: http://arxiv.org/abs/2610.24293v1
- Date: Fri, 16 Oct 2026 22:40:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-26 02:35:01.571178
- Title: Constructive Universal Approximation by Infinite-Dimensional Neural Networks via Gaussian-Weighted Ridgelet Transform
- Title(参考訳): ガウス重み付きリッジレット変換による無限次元ニューラルネットワークによる構成的普遍近似
- Abstract要約: 我々は、リッジレット変換を、分離可能な無限次元ヒルベルト空間上の連続写像に拡張する。
成長の連続な非ポリノミカルな活性化に対するコンパクトな集合に対する一様近似を得る。
明示的な例としては、ガウス目標とニューラル演算層がある。
- 参考スコア(独自算出の注目度): 11.100281713103158
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural networks whose inputs are functions, as in operator learning, are usually shown to be universal by existence arguments, either by reduction to finite-dimensional networks or by Stone--Weierstrass-type density; these prove that approximants exist but say little about how the parameters depend on the target. We take a constructive route. We extend the ridgelet transform, an integral transform related to the Fourier, Radon, and wavelet transforms, to continuous maps on a separable infinite-dimensional Hilbert space, replacing the Lebesgue measure that is unavailable in infinite dimensions by Gaussian weights with a homogeneous mixture on the direction space. The resulting transform has a Plancherel identity and reconstruction formulas incorporating the frame operator, the correction induced by the weights, and it assigns to each target an explicit coefficient measure, one for every admissible analysis filter. From these representations we obtain uniform approximation on compact sets for all continuous non-polynomial activations of polynomial growth, including ReLU, and, by Monte Carlo sampling of the coefficient, finite-width networks with a dimension-free $O(N^{-1/2})$ error in the width $N$ for globally Lipschitz activations and coefficients with finite variation and second moments. Explicit examples include Gaussian targets and neural-operator layers. A companion Lean~4 formalization provides machine-checked proofs, with its correspondence to the manuscript documented at https://shosonoda.github.io/lean-operator-ridgelet/ .
- Abstract(参考訳): 演算子学習のように入力が関数であるニューラルネットワークは通常、有限次元ネットワークへの還元やストーン-ワイエルシュトラス型密度による存在論によって普遍的であることが示される。
私たちは建設的なルートをとっています。
我々は、フーリエ、ラドン、ウェーブレット変換に関連する積分変換であるリッジレット変換を、分離可能な無限次元ヒルベルト空間上の連続写像に拡張し、ガウス重みによる無限次元では不可能なルベーグ測度を、方向空間上の同次混合に置き換える。
得られた変換は、フレーム演算子と重みによって誘導される補正を組み込んだプランシェレルIDと再構成公式を有し、各対象に対して、許容可能な分析フィルタ毎に1つの明示的な係数尺度を割り当てる。
これらの表現から、ReLUを含む多項式成長の連続的非多項式的活性化に対するコンパクト集合上の一様近似を得るとともに、モンテカルロによる係数のサンプリングにより、次元自由な$O(N^{-1/2})$N$の幅での誤差は、大域的なリプシッツの活性化と有限変動と第二モーメントの係数である。
明示的な例としては、ガウス目標とニューラル演算層がある。
Lean~4の形式化は、マシンチェックされた証明を提供し、https://shosonoda.github.io/lean-operator-ridgelet/でドキュメント化された原稿に対応する。
関連論文リスト
- Restricting Trainable Lie-Algebra Growth in Equivariant Quantum Networks via Hierarchical Ancilla-Controlled Subspace Projections [2.4903943571548735]
本稿では,このLie-algebra-growth機構に対処する階層型アンシラ制御アーキテクチャを提案する。
有限サイズの状態ベクトルシミュレーションでは, 通常の回転等変回路に比べて, スパース分散減衰が遅く, 勾配が大きくなることが示されている。
論文 参考訳(メタデータ) (2026-09-03T02:32:51Z) - Interpretable Activation-Selection Neural Networks for Symbolic Regression of Parameter-Dependent Hamiltonian Eigenvalues [45.88028371034407]
本稿では,アクティベーション・セレクション・ネットワーク (ASN) を導入する。
各入力ノードは、予め定義された分析関数のスパース結合を学習し、トレーニングされたネットワークを直接明示的な表現に変換することができる。
ASNを、ゼロ量子核磁気共鳴に関連する有効3-および4-サイトスピン鎖ハミルトンに応用する。
論文 参考訳(メタデータ) (2026-08-26T07:45:10Z) - Discretization and Statistical Consistency of Functional Flow Matching [0.0]
有限ランク再構成の強い一貫した列に対して、有限条件速度目標の強い$L2$収束を証明した。
学習フローに対して、集団重ね合わせ経路に直接結合すると、終端ワッサーシュタイン境界が得られる。
論文 参考訳(メタデータ) (2026-08-05T07:05:47Z) - Optimal Non-Asymptotic Edgeworth Expansions for Multivariate Neural Network Outputs [0.0]
有限個の入力で評価されたニューラルネットワークの偏差を近似した。
応用として、前者がエッジワース展開に置き換えられたときのベイズ後部分布の誤差を定量化する。
論文 参考訳(メタデータ) (2026-05-22T12:45:17Z) - Consistent Geometric Deep Learning via Hilbert Bundles and Cellular Sheaves [68.683840670745]
本稿では,多様体上の無限次元信号に対する新しい畳み込み学習フレームワークを提案する。
HilbNetsと、より一般的には、2段階のサンプリング手順により、畳み込み操作を実装できるようにします。
我々の結果は、古典ラプラシア語に基づくフレームワークを、各点の信号が自身のヒルベルト空間に存在するような設定へと持ち上げることで、幾何学的学習の全体範囲を広げる。
論文 参考訳(メタデータ) (2026-05-07T15:08:58Z) - WUSH: Near-Optimal Adaptive Transforms for LLM Quantization [52.77441224845925]
低ビット幅への量子化は、大きな言語モデルをデプロイするための標準的なアプローチである。
いくつかの極端な重みと活性化は、ダイナミックレンジを拡張し、量子化器の有効分解能を減少させる。
結合重みアクティベーション量子化のための閉形式最適線形ブロックワイズ変換を初めて導出する。
論文 参考訳(メタデータ) (2025-11-30T16:17:34Z) - Conformal Fields from Neural Networks [1.497481482212619]
埋め込み形式を使い、$D$次元の共形体を構成する。
スペクトルを解明する4次元共形ブロック分解を行う。
ディープ・ネットワークへの拡張は、各層における共形場を構成する。
論文 参考訳(メタデータ) (2024-09-18T18:00:00Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - On the Effective Number of Linear Regions in Shallow Univariate ReLU
Networks: Convergence Guarantees and Implicit Bias [50.84569563188485]
我々は、ラベルが$r$のニューロンを持つターゲットネットワークの符号によって決定されるとき、勾配流が方向収束することを示す。
我々の結果は、標本サイズによらず、幅が$tildemathcalO(r)$である、緩やかなオーバーパラメータ化をすでに維持しているかもしれない。
論文 参考訳(メタデータ) (2022-05-18T16:57:10Z) - Infinitely Wide Tensor Networks as Gaussian Process [1.7894377200944511]
本稿では、無限に広いネットワークとガウス過程の等価性を示す。
我々は無限極限テンソルネットワークに対応するガウス過程を実装し、これらのモデルのサンプルパスをプロットする。
論文 参考訳(メタデータ) (2021-01-07T02:29:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。