論文の概要: Spectral Higher-Order Neural Networks Have Sharp Expressivity Bounds
- arxiv url: http://arxiv.org/abs/2607.19042v1
- Date: Tue, 21 Jul 2026 12:34:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-22 19:05:05.423246
- Title: Spectral Higher-Order Neural Networks Have Sharp Expressivity Bounds
- Title(参考訳): シャープ表現性境界を持つスペクトル高次ニューラルネットワーク
- Abstract要約: 重み共有方式によりパラメータをリサイクルできる新しいパラメトリゼーションを提案する。
スペクトル高次アーキテクチャ上で行った予備試験では、性能と解釈可能性の両方において有意義な改善が指摘された。
スペクトル高次ニューラルネットワーク(SHONN)は、多目的で高度に調整可能な仮説空間を持つ。
- 参考スコア(独自算出の注目度): 0.764671395172401
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural hypergraphs are a natural generalization of neural networks, the reference models in modern machine learning. Yet, their deployment has proven demanding: the number of weighted hyperedges required leads to an intractable parameter explosion. However, a novel parametrization that leverages spectral attributes for neural hypergraphs has been recently proposed, that enables to recycle parameters via a weight sharing scheme and consequently yields a significant reduction of the associated computational cost. Preliminary tests carried out on spectral higher-order architectures pointed to meaningful improvements in both performance and interpretability. Building on these results, we advance the benchmarking efforts by evaluating the spectral higher order framework on N-bit parity tasks, a well-established testbed known to be particularly challenging. As we will convincingly argue, Spectral Higher-Order Neural Networks (SHONNs) possess a versatile and highly tunable hypothesis space.
- Abstract(参考訳): ニューラルハイパーグラフは、現代の機械学習における参照モデルであるニューラルネットワークの自然な一般化である。
必要な重み付けされたハイパーエッジの数は、難解なパラメータの爆発に繋がる。
しかし、ニューラルハイパーグラフのスペクトル特性を利用する新しいパラメトリゼーションが最近提案され、これは重み分け方式でパラメータを再利用し、結果として関連する計算コストを大幅に削減することができる。
スペクトル高次アーキテクチャ上で行った予備試験では、性能と解釈可能性の両方において有意義な改善が指摘された。
これらの結果に基づいて、Nビットパリティタスクのスペクトル高次フレームワークを評価することで、ベンチマークの取り組みを進める。
説得力のある議論として、スペクトル高次ニューラルネットワーク(SHONN)は多目的で高度に調整可能な仮説空間を持っている。
関連論文リスト
- KANO: Kolmogorov-Arnold Neural Operator for Image Super-Resolution [41.768127715624]
我々はKolmogorov-Arnold Neural Operator(KANO)と呼ばれる新しい解釈可能な演算子を提案する。
狩野は、潜伏劣化フィッティングプロセスの透明で構造化された表現を提供する。
複雑なシーケンスフィッティングタスクの処理において,多層パーセプトロン (MLP) とコルモゴロフ・アルノルドネットワーク (KAN) を比較した。
論文 参考訳(メタデータ) (2025-12-28T07:27:21Z) - HWL-HIN: A Hypergraph-Level Hypergraph Isomorphism Network as Powerful as the Hypergraph Weisfeiler-Lehman Test with Application to Higher-Order Network Robustness [2.4851388650413866]
本稿ではハイパーグラフレベルのハイパーグラフ同型ネットワークフレームワークを提案する。
理論的には、このアプローチはHypergraph Weisfeiler-Lehmanテストと厳密に等価な表現力を持つことが証明されている。
実験により,提案手法は既存のグラフベースモデルを上回るだけでなく,トポロジ的構造表現を優先するタスクにおいて,従来のHGNNをはるかに上回っていることが示された。
論文 参考訳(メタデータ) (2025-12-26T12:25:15Z) - Implicit Hypergraph Neural Networks: A Stable Framework for Higher-Order Relational Learning with Provable Guarantees [8.5183483099116]
Indicit Hypergraph Neural Networks (IHGNN)を導入し、非線形不動点方程式の解として表現を計算する。
IHGNNは、正確性と堅牢性の両方において、強力な従来のグラフ/ハイパーグラフニューラルネットワークベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2025-08-13T02:06:29Z) - TensorHyper-VQC: A Tensor-Train-Guided Hypernetwork for Robust and Scalable Variational Quantum Computing [50.95799256262098]
量子機械学習のための新しいテンソルトレイン(TT)誘導ハイパーネットワークフレームワークであるHyper-VQCを紹介する。
我々のフレームワークは、量子回路パラメータの生成を古典的なTTネットワークに委譲し、量子ハードウェアから最適化を効果的に分離する。
これらの結果から、Hyper-VQCは、短期デバイス上での実用的な量子機械学習を促進するためのスケーラブルで耐雑音性のあるフレームワークとして位置づけられる。
論文 参考訳(メタデータ) (2025-08-01T23:37:55Z) - From Hypergraph Energy Functions to Hypergraph Neural Networks [94.88564151540459]
パラメータ化されたハイパーグラフ正規化エネルギー関数の表現型族を示す。
次に、これらのエネルギーの最小化がノード埋め込みとして効果的に機能することを実証する。
提案した双レベルハイパーグラフ最適化と既存のGNNアーキテクチャを共通的に用いている。
論文 参考訳(メタデータ) (2023-06-16T04:40:59Z) - Tensorized Hypergraph Neural Networks [69.65385474777031]
我々は,新しいアジャケーシテンソルベースのtextbfTensorized textbfHypergraph textbfNeural textbfNetwork (THNN) を提案する。
THNNは高次外装機能パッシングメッセージを通じて、忠実なハイパーグラフモデリングフレームワークである。
3次元視覚オブジェクト分類のための2つの広く使われているハイパーグラフデータセットの実験結果から、モデルの有望な性能を示す。
論文 参考訳(メタデータ) (2023-06-05T03:26:06Z) - Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。
よりスムーズな関数との補間により、より一般化できることを示す。
論文 参考訳(メタデータ) (2023-05-30T19:37:44Z) - Momentum Diminishes the Effect of Spectral Bias in Physics-Informed
Neural Networks [72.09574528342732]
物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。
彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。
本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
論文 参考訳(メタデータ) (2022-06-29T19:03:10Z) - Preventing Over-Smoothing for Hypergraph Neural Networks [0.0]
階層数の増加に伴い,ハイパーグラフニューラルネットワークの性能は向上しないことを示す。
我々はディープ・HGCNと呼ばれる新しいディープ・ハイパーグラフ・畳み込みネットワークを開発し、ディープ・レイヤにおけるノード表現を維持できる。
論文 参考訳(メタデータ) (2022-03-31T16:33:31Z) - The Spectral Bias of Polynomial Neural Networks [63.27903166253743]
PNN(Polynomial Neural Network)は、高頻度情報を重要視する画像生成と顔認識に特に有効であることが示されている。
これまでの研究では、ニューラルネットワークが低周波関数に対して$textitspectral bias$を示しており、トレーニング中に低周波成分のより高速な学習をもたらすことが示されている。
このような研究に触発されて、我々はPNNのTangent Kernel(NTK)のスペクトル分析を行う。
我々は、最近提案されたPNNのパラメトリゼーションである$Pi$-Netファミリがスピードアップすることを発見した。
論文 参考訳(メタデータ) (2022-02-27T23:12:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。