論文の概要: Compositional Approximation Can Strictly Outperform Superpositional Approximation

• arxiv url: http://arxiv.org/abs/2606.08727v1
• Date: Sun, 07 Jun 2026 16:50:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:06.417647
• Title: Compositional Approximation Can Strictly Outperform Superpositional Approximation
• Title（参考訳）: 組成近似は厳密に重ね合わせ近似を上回り得る
• Authors: Dennis Elbrächter, Philipp Petersen,
• Abstract要約: 使用するパラメータ数の関数と見なされる一様近似誤差は、任意のパラメトリケート法で達成可能な最高階の減衰を有する。 ニューラルネットワークのような構成法は構造的に異なるが、それらの近似率は制約を課すことで比較できる。
• 参考スコア（独自算出の注目度）: 1.0450108735332533
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many classically studied function classes are known to be approximated optimally by superpositional methods, i.e. with approximants constructed as the linear combination of elements in some dictionary. Here optimality means that the uniform approximation error viewed as a function of the number of parameters used has polynomial decay of the highest order achievable by any parametrized method whose parameters can be encoded as a bit string of length proportional, up to logarithmic factors, to the number of parameters. While compositional methods like neural networks are structurally different, their approximation rates can be made comparable by imposing constraints that ensure such a proportional bit string encoding. In this work we study function classes exhibiting structural properties that limit superpositional approximation rates to be strictly lower than compositional approximation rates. In particular, we construct explicit examples for which there is an arbitrarily large gap.
• Abstract（参考訳）: 古典的に研究された多くの関数類は、重ね合わせ法(英語版)(superpositional method)によって最適に近似することが知られている。 ここでの最適性は、パラメータ数の関数と見なされる一様近似誤差が、パラメータがパラメータ数に比例する長さのビット列としてエンコードできるパラメタライズドメソッドによって達成可能な最高次多項式減衰を持つことを意味する。 ニューラルネットワークのような構成法は構造的に異なるが、それらの近似率は、そのような比例的なビット文字列の符号化を保証する制約を課すことで比較できる。 本研究では, 重ね合わせ近似速度を制限する構造特性を示す関数クラスについて, 組成近似速度よりも厳密に低い値を示す。 特に、任意に大きなギャップが存在する明示的な例を構築する。

関連論文リスト

• On Uniform Weighted Deep Polynomial approximation [0.0]
  本研究では,一方の非対称な振舞いと他方の減衰を有する関数に適した重み付き深部近似剤のクラスを導入,解析する。 このフレームワークがTaylor, Chebyshev, and standard Deep Approximantsより優れていることを示す。
  論文  参考訳（メタデータ） (2025-06-26T14:25:32Z)
• Tensor-based multivariate function approximation: methods benchmarking and comparison [0.0]
  本稿では,テンソル(あるいはデータ-)に基づく多変量関数の構成と近似のために設計された手法の性能,特徴,ユーザエクスペリエンスを評価する。 このコントリビューションは、サロゲートモデルによるテンソル近似のための利用可能なツールの完全なベンチマークコレクションを提案するものである。
  論文  参考訳（メタデータ） (2025-06-05T09:17:55Z)
• Gathering and Exploiting Higher-Order Information when Training Large Structured Models [0.0]
  最適化に関係のある well-chosen 部分空間上で、ヘッセン微分および高階微分の射影の正確かつ明示的な計算を示す。 これらのテンソルを次数2でどのように使い、ヘッセン語に含まれる情報を利用する最適化法を構築するかを示す。 トレーニングされたニューラルネットワークの層間の長距離インタラクションを考慮する。
  論文  参考訳（メタデータ） (2023-12-06T20:24:05Z)
• A comparison of rational and neural network based approximations [0.0]
  有理近似,ニューラルネットワークおよびそれらの組み合わせを用いた関数近似の効率を比較する。 その結果、有理近似は、同じ数の決定変数を持つニューラルネットワークベースのアプローチよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2023-03-08T08:31:06Z)
• Object Representations as Fixed Points: Training Iterative Refinement Algorithms with Implicit Differentiation [88.14365009076907]
  反復的洗練は表現学習に有用なパラダイムである。 トレーニングの安定性とトラクタビリティを向上させる暗黙の差別化アプローチを開発する。
  論文  参考訳（メタデータ） (2022-07-02T10:00:35Z)
• Automated differential equation solver based on the parametric approximation optimization [77.34726150561087]
  本稿では,最適化アルゴリズムを用いてパラメータ化近似を用いた解を求める手法を提案する。 アルゴリズムのパラメータを変更することなく、幅広い種類の方程式を自動で解くことができる。
  論文  参考訳（メタデータ） (2022-05-11T10:06:47Z)
• Structured Sparsity Inducing Adaptive Optimizers for Deep Learning [94.23102887731417]
  本稿では、近位勾配法に必要な成分である重み付き近位作用素を導出する。 この適応法は, 重み付き近位演算子とともに, 空間パターンに構造をもつ解を求めることができることを示す。
  論文  参考訳（メタデータ） (2021-02-07T18:06:23Z)
• Optimal oracle inequalities for solving projected fixed-point equations [53.31620399640334]
  ヒルベルト空間の既知の低次元部分空間を探索することにより、確率観測の集合を用いて近似解を計算する手法を検討する。 本稿では,線形関数近似を用いた政策評価問題に対する時間差分学習手法の誤差を正確に評価する方法について述べる。
  論文  参考訳（メタデータ） (2020-12-09T20:19:32Z)
• Refined bounds for algorithm configuration: The knife-edge of dual class approximability [94.83809668933021]
  トレーニングセットが、トレーニングセット上でのパラメータの平均メトリックのパフォーマンスが、予想される将来的なパフォーマンスに最も近いことを保証するために、どの程度の規模が必要かを調査する。 この近似が L-無限ノルムの下で成り立つなら、強いサンプル複雑性境界を与えることができる。 我々は、コンピュータ科学において最も強力なツールの一つである整数プログラミングの文脈において、我々の限界を実証的に評価する。
  論文  参考訳（メタデータ） (2020-06-21T15:32:21Z)
• Improved guarantees and a multiple-descent curve for Column Subset Selection and the Nystr\"om method [76.73096213472897]
  我々は,データ行列のスペクトル特性を利用して近似保証を改良する手法を開発した。 我々のアプローチは、特異値減衰の既知の速度を持つデータセットのバウンダリが大幅に向上する。 RBFパラメータを変更すれば,改良された境界線と多重発振曲線の両方を実データセット上で観測できることが示される。
  論文  参考訳（メタデータ） (2020-02-21T00:43:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。