論文の概要: Neural Network Approximation: A View from Polytope Decomposition
- arxiv url: http://arxiv.org/abs/2601.18264v1
- Date: Mon, 26 Jan 2026 08:39:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-27 15:23:08.744599
- Title: Neural Network Approximation: A View from Polytope Decomposition
- Title(参考訳): ニューラルネットワーク近似:ポリトープの分解から
- Authors: ZeYu Li, ShiJun Zhang, TieYong Zeng, FengLei Fan,
- Abstract要約: 我々は連続関数の普遍近似を導出する明示的なカーネル法を開発した。
ReLUネットワークは、各サブドメインのカーネルを個別に近似するために構築される。
解析関数へのアプローチを拡張して高い近似率に到達する。
- 参考スコア(独自算出の注目度): 36.24385738607139
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Universal approximation theory offers a foundational framework to verify neural network expressiveness, enabling principled utilization in real-world applications. However, most existing theoretical constructions are established by uniformly dividing the input space into tiny hypercubes without considering the local regularity of the target function. In this work, we investigate the universal approximation capabilities of ReLU networks from a view of polytope decomposition, which offers a more realistic and task-oriented approach compared to current methods. To achieve this, we develop an explicit kernel polynomial method to derive an universal approximation of continuous functions, which is characterized not only by the refined Totik-Ditzian-type modulus of continuity, but also by polytopical domain decomposition. Then, a ReLU network is constructed to approximate the kernel polynomial in each subdomain separately. Furthermore, we find that polytope decomposition makes our approximation more efficient and flexible than existing methods in many cases, especially near singular points of the objective function. Lastly, we extend our approach to analytic functions to reach a higher approximation rate.
- Abstract(参考訳): 普遍近似理論(Universal Approximation theory)は、ニューラルネットワークの表現性を検証するための基礎的なフレームワークを提供する。
しかし、既存の理論的な構成のほとんどは、入力空間を目的関数の局所正規性を考慮せずに、小さな超キューブに均一に分割することで確立されている。
本研究では,ReLUネットワークの汎用近似能力をポリトープ分解の観点から検討し,従来の手法と比較して現実的でタスク指向のアプローチを提供する。
これを実現するために、連続関数の普遍近似を導出する明示的なカーネル多項式法を開発した。
そして、ReLUネットワークを構築し、各サブドメインのカーネル多項式を個別に近似する。
さらに, ポリトープ分解により, 従来の手法, 特に目的関数の特異点付近よりも近似が効率的かつ柔軟であることが判明した。
最後に,解析関数へのアプローチを拡張して高い近似率に到達する。
関連論文リスト
- DeePoly: A High-Order Accuracy Scientific Machine Learning Framework for Function Approximation and Solving PDEs [5.483488375189695]
この研究は、Deeソリューションを2段階のアプローチに変換する新しいフレームワークを紹介します。
戦略的な組み合わせは、両方の方法の強みを利用する。
このアプローチはオープンソースプロジェクトとしても機能し、論文としても機能します。
論文 参考訳(メタデータ) (2025-06-05T04:10:52Z) - Universal approximation results for neural networks with non-polynomial activation function over non-compact domains [3.3379026542599934]
単一隠れ層フィードフォワードニューラルネットワークの普遍近似特性をコンパクト領域を超えて拡張する。
活性化関数が非多項式であると仮定することにより、ユークリッド空間の非コンパクト部分集合上で定義される函数空間内での普遍近似結果を確立する。
論文 参考訳(メタデータ) (2024-10-18T09:53:20Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Active Learning-based Domain Adaptive Localized Polynomial Chaos
Expansion [0.0]
本稿では,入力ランダム空間の逐次分解と局所カオス展開の構成により,複雑な関数の代理モデルを構築する手法を提案する。
このアプローチは、入力ランダム空間を低次展開によって近似されたより小さなサブドメインに逐次分解する。
論文 参考訳(メタデータ) (2023-01-31T13:49:52Z) - The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。
ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。
ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
論文 参考訳(メタデータ) (2022-06-14T12:30:11Z) - Polynomial-Time Exact MAP Inference on Discrete Models with Global
Dependencies [83.05591911173332]
ジャンクションツリーアルゴリズムは、実行時の保証と正確なMAP推論のための最も一般的な解である。
本稿では,ノードのクローン化による新たなグラフ変換手法を提案する。
論文 参考訳(メタデータ) (2019-12-27T13:30:29Z) - Neural Proximal/Trust Region Policy Optimization Attains Globally
Optimal Policy [119.12515258771302]
オーバーパラメトリゼーションを備えたPPOOの変種が,グローバルな最適ネットワークに収束することを示す。
我々の分析の鍵は、1次元の単調性の概念の下で無限勾配の反復であり、そこでは勾配はネットワークによって瞬く。
論文 参考訳(メタデータ) (2019-06-25T03:20:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。