論文の概要: A Multiplicative Neural Network Architecture: Locality and Regularity of Appriximation

• arxiv url: http://arxiv.org/abs/2602.06374v1
• Date: Fri, 06 Feb 2026 04:07:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-09 22:18:26.232173
• Title: A Multiplicative Neural Network Architecture: Locality and Regularity of Appriximation
• Title（参考訳）: 乗算型ニューラルネットワークアーキテクチャ:近似の局所性と規則性
• Authors: Hee-Sun Choi, Beom-Seok Han,
• Abstract要約: 本稿では,乗法的相互作用が基本表現を構成する乗法的ニューラルネットワークアーキテクチャを提案する。 ベッセルポテンシャル空間の局所性と正則性の観点から近似特性を解析する。
• 参考スコア（独自算出の注目度）: 1.7188280334580195
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce a multiplicative neural network architecture in which multiplicative interactions constitute the fundamental representation, rather than appearing as auxiliary components within an additive model. We establish a universal approximation theorem for this architecture and analyze its approximation properties in terms of locality and regularity in Bessel potential spaces. To complement the theoretical results, we conduct numerical experiments on representative targets exhibiting sharp transition layers or pointwise loss of higher-order regularity. The experiments focus on the spatial structure of approximation errors and on regularity-sensitive quantities, in particular the convergence of Zygmund-type seminorms. The results show that the proposed multiplicative architecture yields residual error structures that are more tightly aligned with regions of reduced regularity and exhibits more stable convergence in regularity-sensitive metrics. These results demonstrate that adopting a multiplicative representation format has concrete implications for the localization and regularity behavior of neural network approximations, providing a direct connection between architectural design and analytical properties of the approximating functions.
• Abstract（参考訳）: 本稿では,加法モデル内の補助成分として現れるのではなく,乗法的相互作用が基本表現を構成する乗法的ニューラルネットワークアーキテクチャを提案する。 このアーキテクチャの普遍近似定理を確立し、ベッセルポテンシャル空間の局所性と正則性の観点から近似特性を解析する。 理論的結果の補完として, シャープな遷移層や高次規則性のポイントワイド損失を示す代表対象について数値実験を行った。 実験は近似誤差の空間構造と正則性に敏感な量、特にジグムント型半ノルムの収束に焦点を当てた。 提案した乗法的アーキテクチャは、正規度が減少する領域とより密に一致し、正規度に敏感な指標においてより安定した収束を示す残留誤差構造が得られることを示す。 これらの結果から、乗法表現形式を採用することは、ニューラルネットワーク近似の局所化と規則性挙動に具体的な意味を持ち、アーキテクチャ設計と近似関数の解析的性質の直接的な関連性をもたらすことが示されている。

関連論文リスト

• Understanding Generalization from Embedding Dimension and Distributional Convergence [13.491874401333021]
  表現中心の観点から一般化を研究し、学習した埋め込みの幾何学が固定訓練モデルの予測性能をどのように制御するかを分析する。 人口リスクは, (i) 埋込み分布の内在的次元, (i) 埋込み分布のワッサーシュタイン距離における人口分布への収束率, (ii) 埋込みから予測への下流マッピングの感度, (ii) リプシッツ定数によって特徴づけられる。
  論文  参考訳（メタデータ） (2026-01-30T09:32:04Z)
• Scale-Consistent State-Space Dynamics via Fractal of Stationary Transformations [9.983526161001997]
  最近のディープラーニングモデルは、中間表現の妥当性に関する構造的な保証なしに、ますます深度に依存している。 我々は、状態空間モデルのスケール一貫性潜在力学の構造的要件を定式化することにより、この制限に対処する。 我々は予測されたスケール一貫性の挙動を実証的に検証し、適応効率がアライメントされた潜在幾何学から現れることを示す。
  論文  参考訳（メタデータ） (2026-01-27T12:44:20Z)
• Towards A Unified PAC-Bayesian Framework for Norm-based Generalization Bounds [63.47271262149291]
  PAC-Bayesianノルムに基づく一般化のための統一的なフレームワークを提案する。 提案手法の鍵となるのは、構造的重み摂動に関してネットワーク出力を定量化する感度行列である。 我々は、いくつかの既存のPAC-ベイジアン結果を特殊ケースとして回復する一般化境界の族を導出する。
  論文  参考訳（メタデータ） (2026-01-13T00:42:22Z)
• VIKING: Deep variational inference with stochastic projections [48.946143517489496]
  変分平均場近似は、現代の過度にパラメータ化されたディープニューラルネットワークと競合する傾向がある。 パラメータ空間の2つの独立線型部分空間を考える単純な変分族を提案する。 これにより、オーバーパラメトリゼーションを反映した、完全に相関した近似後部を構築することができる。
  論文  参考訳（メタデータ） (2025-10-27T15:38:35Z)
• Learning Overspecified Gaussian Mixtures Exponentially Fast with the EM Algorithm [5.625796693054093]
  過特定ガウス混合モデルに適用した場合のEMアルゴリズムの収束特性について検討する。 集団EMアルゴリズムはクルバック・リーブラー距離(KL)において指数関数的に高速に収束することを示した。
  論文  参考訳（メタデータ） (2025-06-13T14:57:57Z)
• Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
  本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。 最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
  論文  参考訳（メタデータ） (2023-10-20T12:45:12Z)
• On Neural Architecture Inductive Biases for Relational Tasks [76.18938462270503]
  合成ネットワーク一般化(CoRelNet)と呼ばれる類似度分布スコアに基づく簡単なアーキテクチャを導入する。 単純なアーキテクチャの選択は、分布外一般化において既存のモデルより優れていることが分かる。
  論文  参考訳（メタデータ） (2022-06-09T16:24:01Z)
• Topological Regularization for Dense Prediction [5.71097144710995]
  我々は、トポロジ的記述を伴う密集予測タスクに使用できる永続的ホモロジーに基づくトポロジ的正規化の形式を開発する。 内部アクティベーションのトポロジカルな正規化は、いくつかの問題やアーキテクチャにおける収束とテストベンチマークの改善につながることを実証する。
  論文  参考訳（メタデータ） (2021-11-22T04:44:45Z)
• Approximation Theory of Convolutional Architectures for Time Series Modelling [15.42770933459534]
  時系列モデリングに適用した畳み込みアーキテクチャの近似特性について検討する。 近年の結果,データ生成プロセスにおける近似効率とメモリ構造との複雑な関係が明らかになった。
  論文  参考訳（メタデータ） (2021-07-20T09:19:26Z)
• Joint Network Topology Inference via Structured Fusion Regularization [70.30364652829164]
  結合ネットワークトポロジ推論は、異種グラフ信号から複数のグラフラプラシア行列を学習する標準的な問題を表す。 新規な構造化融合正規化に基づく一般グラフ推定器を提案する。 提案するグラフ推定器は高い計算効率と厳密な理論保証の両方を享受できることを示す。
  論文  参考訳（メタデータ） (2021-03-05T04:42:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。