論文の概要: Demystifying Oversmoothing in Sheaf Neural Networks: An Index-Theoretic Criterion
- arxiv url: http://arxiv.org/abs/2608.16180v1
- Date: Mon, 17 Aug 2026 06:52:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.560867
- Title: Demystifying Oversmoothing in Sheaf Neural Networks: An Index-Theoretic Criterion
- Title(参考訳): せん断ニューラルネットワークにおけるデミスティグオーバースムースメント:指数論的基準
- Abstract要約: グラフを層構造とし、グラフラプラシアンを層ラプラシアン$mathcalL$に置き換えることで一般化する手法として、せん断ニューラルネットワーク(SNN)を提案した。
既存の解析は、ハーモニック空間(kermathcalL$)を経由し、その絶対次元を反オーバースムーシング能力の指標としている。
まず, 相対的, 幾何的アプローチを導入し, オーバーオーバ平滑化防止能力を正確に評価した。
- 参考スコア(独自算出の注目度): 7.425166211928442
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To combat oversmoothing in Graph Convolutional Networks, Sheaf Neural Networks (SNNs) were proposed as a generalization by equipping the graph with a sheaf structure and replacing the graph Laplacian with a sheaf Laplacian $\mathcal{L}$. Existing analyses connect sheaf diffusion to oversmoothing via the harmonic space ($\ker\mathcal{L}$), taking its absolute dimension as an indicator of anti-oversmoothing capacity. However, absolute dimension alone is not a reliable measure: certain sheaf configurations inflate $\dim \ker \mathcal{L}$ while their harmonic sections remain entirely constant, without enriching discriminative capacity. We instead introduce the first relative, geometric approach, yielding a precise characterisation of anti-oversmoothing capacity. Under natural conditions on stalk transportation and global sheaf structure, we establish an index-theoretic comparison criterion showing that one sheaf's harmonic space genuinely contains another's beyond trivial inflation. We illustrate this with a concrete instance and further introduce \textit{GyroSheaf}, a sheaf with curved gyrovector-space stalks, extending the criterion to the non-linear setting via local tangent-space linearization. Experiments across ten models confirm the theoretical criterion: sheaf models violating the criterion collapse despite possessing index jumps, while compliant models maintain depth-stable representations.
- Abstract(参考訳): グラフ畳み込みニューラルネットワーク(SNN)では, グラフを層構造とし, グラフラプラシアンを層構造に置き換えることによる一般化として, せん断ニューラルネットワーク(SNN)を提案する。
既存の解析は、ハーモニック空間(\ker\mathcal{L}$)を経由し、その絶対次元を反過剰化能力の指標としている。
しかし、絶対次元だけでは信頼できる測度ではない: ある層構成は$\dim \ker \mathcal{L}$をインフレするが、それらの調和区間は完全に一定であり、判別能力は強化されない。
代わりに、最初の相対的幾何学的アプローチを導入し、反過剰化能力を正確に特徴づける。
自然条件下では、ストーク輸送とグローバルリーフ構造において、1つのハーフの調和空間が真に自明なインフレーションを超えた他のハーフを含むことを示す指数論的比較基準を確立する。
これを具体例で説明し、また、曲線ジロベクター空間ストークを持つシーフである \textit{GyroSheaf} を導入し、局所接空間線型化により、その基準を非線形設定に拡張する。
10モデルにわたる実験は、理論的な基準を裏付ける: せん断模型は、指数ジャンプを持つにもかかわらず、基準の崩壊を侵害し、適合模型は深度安定な表現を維持している。
関連論文リスト
- Across the Loss Landscape with Progressive Growth [51.366966420881646]
成長を漸進的緩和と見なして、より平坦な地域に向けての訓練戦略がいかに成長・最適化されるかを示す。
制御されたおもちゃの流域や現実的なResNet/CI-100環境でこれらの予測を実証的に検証する。
プログレッシブな部分空間成長は、より平坦な解を確実に生成するが、曲率の低減は、普遍的にテスト性能の向上に変換されず、平坦性一般化接続における微妙さを強調している。
論文 参考訳(メタデータ) (2026-08-25T13:50:48Z) - CSympNet-ID: conformal-symplectic map learning for linearly damped Hamiltonian systems [6.683674534366321]
線形減衰ハミルトニアン系では、正確な流れは概してシンプレクティックではなく、共形シンプレクティックである。
減衰同定を用いたコンフォーマルシンプレクティックネットワーク(CSympNet-ID)を提案する。
CSympNet-IDはスナップショットペアから直接ワンステップフローマップを学習する。
論文 参考訳(メタデータ) (2026-07-03T13:56:41Z) - Oversmoothing as Representation Degeneracy in Neural Sheaf Diffusion [0.0]
NSD(Neural Sheaf Diffusion)は、スカラーグラフラプラシアンをシーフラプラシアンに置き換えることで、拡散に基づくグラフニューラルネットワークを一般化する。
グラフ上の細胞シーブを関連頻度の表現で同定し,NSDのクイバー理論的解釈を開発する。
そこで本研究では,基礎となる入射平均表現の直和分解が拡散限界に到達した調和空間の分解を誘導することを示す。
論文 参考訳(メタデータ) (2026-05-11T19:41:56Z) - A Mean Curvature Approach to Boundary Detection: Geometric Insights for Unsupervised Learning [52.452902154360565]
本稿では,幾何学的機械学習に基づく新しい幾何学的フレームワークであるMean Curvature Boundary Points (MCBP)を紹介する。
MCBPはデータ多様体の固有曲率を明示的にモデル化し、原理化された多様体のパラメトリゼーションを必要としない点平均曲率を計算する。
合成および実世界のデータセットの実験により、MCBPはクラスタリング性能を一貫して改善することを示した。
論文 参考訳(メタデータ) (2026-05-05T20:19:09Z) - Random Dot Product Graphs as Dynamical Systems: Limitations and Opportunities [0.0]
ランダムドット製品グラフ内の時間ネットワークの進化を規定する微分方程式について検討する。
遅延位置における回転あいまいさからのゲージ自由度、確率行列の多様体構造からの実現可能性制約、スペクトル埋め込みによる軌道回復アーティファクトの3つの基本的な障害を同定する。
対称力学はスキュー対称ゲージ汚染を吸収できないので、力学構造は障害物を解消できる。
論文 参考訳(メタデータ) (2026-03-05T21:56:07Z) - The Inductive Bias of Convolutional Neural Networks: Locality and Weight Sharing Reshape Implicit Regularization [57.37943479039033]
本研究では,勾配降下における安定性現象によって引き起こされる暗黙の正則化に,アーキテクチャ的帰納バイアスがどう影響するかを考察する。
局所性と重量共有が根本的に変化していることが示されています。
論文 参考訳(メタデータ) (2026-03-05T04:50:51Z) - Symmetry-protected topology and deconfined solitons in a multi-link $\mathbb{Z}_2$ gauge theory [45.88028371034407]
球殻の大円として視覚化できるリンクを持つ多重グラフ上で定義された$mathbbZ$格子ゲージ理論を研究する。
これは、ピエルズ不安定性に類似した現象の根底にある状態依存トンネル振幅につながることを示す。
行列積状態に基づいて詳細な解析を行うことで、電荷分解が電荷-摩擦化の結果生じることを証明できる。
論文 参考訳(メタデータ) (2026-03-02T22:59:25Z) - Manifold limit for the training of shallow graph convolutional neural networks [1.2744523252873352]
本研究では,浅部グラフ畳み込みニューラルネットワーク(GCNN)のサンプル点雲近傍グラフにおけるトレーニングの整合性について検討した。
我々は、正規化された経験的リスク最小化関数の$$-convergenceと、それらの大域的最小化関数の対応する収束を証明した。
論文 参考訳(メタデータ) (2026-01-09T18:59:20Z) - Robust Tangent Space Estimation via Laplacian Eigenvector Gradient Orthogonalization [48.25304391127552]
データ多様体の接空間を推定することは、データ解析の基本的な問題である。
局所接空間推定を導くために,データのグローバル構造を利用したラプラシアン固有ベクトル勾配直交化法(LEGO)を提案する。
論文 参考訳(メタデータ) (2025-10-02T17:59:45Z) - Learning Latent Graph Geometry via Fixed-Point Schrödinger-Type Activation: A Theoretical Study [1.1745324895296467]
我々は、学習された潜在グラフ上の散逸的シュリンガー型ダイナミクスの定常状態として内部表現が進化するニューラルアーキテクチャの統一的理論的枠組みを開発する。
我々は、平衡の存在、一意性、滑らかな依存を証明し、力学がノルム保存ランダウ-リフシッツ流にブロッホ写像の下で等価であることを示す。
結果として得られるモデルクラスは、固定点 Schr"odinger 型のアクティベーションを通して潜在グラフ幾何学を学ぶためのコンパクトで幾何学的に解釈可能で解析的に抽出可能な基礎を提供する。
論文 参考訳(メタデータ) (2025-07-27T00:35:15Z) - High-probability Convergence Bounds for Nonlinear Stochastic Gradient Descent Under Heavy-tailed Noise [59.25598762373543]
重み付き雑音の存在下でのストリーミングデータにおける学習の精度保証について検討した。
解析的に、与えられた問題に対する設定の選択に$ta$を使うことができることを実証する。
論文 参考訳(メタデータ) (2023-10-28T18:53:41Z) - Boundary theories of critical matchgate tensor networks [59.433172590351234]
AdS/CFT対応の重要な側面は、双曲格子上のテンソルネットワークモデルの観点から捉えることができる。
マッチゲート制約を満たすテンソルに対しては、これらは以前、乱れた境界状態を生成することが示されている。
これらのハミルトニアンは、解析的な玩具モデルによって捉えられたマルチスケールの準周期対称性を示す。
論文 参考訳(メタデータ) (2021-10-06T18:00:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。