論文の概要: S$^3$GNN: Efficient Global Mixing and Local Message Passing for Long-Range Graph Learning

• arxiv url: http://arxiv.org/abs/2605.23467v1
• Date: Fri, 22 May 2026 10:26:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 17:29:20.310354
• Title: S$^3$GNN: Efficient Global Mixing and Local Message Passing for Long-Range Graph Learning
• Title（参考訳）: S$3$GNN:Long-Range Graph Learningのための効率的なグローバルミキシングとローカルメッセージパッシング
• Authors: Dai Shi, Luke Thompson, Linhan Luo, Lequan Lin, Andi Han, Junbin Gao, José Miguel Hernández Lobato,
• Abstract要約: メッセージパッシングニューラルネットワーク(MPNN)は、長距離依存関係をキャプチャする際の情報ボトルネックに悩まされることが多い。 我々は、省略されたコンポーネントを軽量に再導入することでオーバーカッシング(OSQ)を緩和するS$3$GNNを提案する。 実験の結果,S$3$GNNは最大50%のパラメータでマグニチュード誤差を低減できることがわかった。
• 参考スコア（独自算出の注目度）: 56.04227780048336
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Message-passing neural networks (MPNNs) often suffer from an information bottleneck when capturing long-range dependencies, leading to the oversquashing (OSQ) phenomenon. Alongside spatial connectivity enrichment (e.g., rewiring), recent studies have shown that spectral filtering can yield strong long-range learning outcomes, as spectral operators enable global information mixing that alleviates OSQ. These approaches achieve this either by stabilizing the Jacobian energies in deep propagation or by guaranteeing OSQ mitigation under strong theoretical assumptions. We revisit these conclusions and show that the associated Jacobian sensitivity lower bound is generally difficult to achieve in practice. We then propose S$^3$GNN, which mitigates OSQ without such restrictive assumptions by lightweightly reintroducing omitted components with substantially lower computational complexity, while standard stability constraints on feature transformations remain effective under our new dynamics. Extensive experiments across diverse domains (e.g., long-range benchmarks, KGQA, and mesh-based fluid dynamics) demonstrate that S$^3$GNN achieves up to an order-of-magnitude error reduction with up to 50\% fewer parameters. Our code can be found in https://github.com/EEthanShi/S3-GNN.git.
• Abstract（参考訳）: メッセージパッシングニューラルネットワーク(MPNN)は、長距離依存関係をキャプチャする際の情報ボトルネックに悩まされることが多く、OSQ(oversquashing)現象につながる。 最近の研究では、空間接続の強化(例えば、再接続)とともに、スペクトルフィルタはOSQを緩和するグローバルな情報混合を可能にするため、強力な長距離学習結果をもたらすことが示されている。 これらのアプローチは、深い伝播におけるヤコビエネルギーを安定化するか、あるいは強い理論的な仮定の下でOSQ緩和を保証することによってこれを達成している。 これらの結論を再検討し、関連するジャコビアン感度の下限が実際は達成し難いことを示す。 S$^3$GNN は,計算量を大幅に減らした省略成分を軽量に再導入することで,OSQ をそのような制限的な仮定なしに緩和する。 様々な領域(例えば、長距離ベンチマーク、KGQA、メッシュベースの流体力学)にわたる大規模な実験は、S$^3$GNNが最大50倍のパラメータのオーダー・オブ・マグニチュード誤差の削減を達成することを示した。 私たちのコードはhttps://github.com/EEthanShi/S3-GNN.git.comにある。

関連論文リスト

• Quantile-Free Uncertainty Quantification in Graph Neural Networks [22.90804904063177]
  グラフニューラルネットワーク(GNN)における不確実性定量化(UQ)は、高い領域において重要であるが、依然として重要な課題である。 我々は、GNNベースのUQを実現するために、QR(quantile regression)に基づくフレームワークであるQuantile-free Prediction Interval GNN(QpiGNN)を紹介する。 QpiGNNは、予測と不確実性を分離するデュアルヘッドアーキテクチャを採用し、量子自由結合損失を通じてラベルのみの監視で訓練されている。
  論文  参考訳（メタデータ） (2026-05-06T12:44:54Z)
• Beyond Heuristics: Learnable Density Control for 3D Gaussian Splatting [78.96382179408054]
  強化学習(RL)により最適化されたパラメータ化ポリシネットワークとして密度制御を再構築するフレームワークであるbfLeGSを紹介する。 計算的トラクタビリティを維持するために、報酬計算の複雑さを$O(N2)$から$O(N)$に下げる閉形式解を導出する。 Mip-NeRF 360、Tants & Temples、Deep Blendingのデータセットの実験は、bfLeGSが最先端の手法を大幅に上回っていることを示している。
  論文  参考訳（メタデータ） (2026-05-01T05:04:49Z)
• Lund Plane to Bloch (LP2B) Encoding for Object and Polarization Tagging with Quantum Jet Substructure [0.0]
  ジェットのサブ構造は、LHC以降の要求と相補的な課題に対処するために依然として不可欠である。 ジェットキネマティックスの理論的にクリーンでロバストな表現をキュービット状態に直接マッピングするために設計されたLund Plane to Bloch (LP2B) 符号化を導入する。 我々はLundツリーの階層構造を埋め込んだ量子木トポロジーネットワーク(QTTN)を実装した。
  論文  参考訳（メタデータ） (2026-04-15T13:57:22Z)
• Data-Driven Deep MIMO Detection:Network Architectures and Generalization Analysis [50.20709408241935]
  本稿では,ネットワーク・オブ・MLPにおける完全データ駆動型DeepSIC検出の検証を提案する。 このようなアーキテクチャでは、グラフニューラルネットワーク(GNN)を使用したグラフベースのメッセージパッシングプロセスとして、DeepSICをアップグレードすることができる。 GNNSICは、訓練可能なパラメータが大幅に少ないDeepSICに匹敵する優れた表現性を達成する。
  論文  参考訳（メタデータ） (2026-02-13T04:38:51Z)
• Generalizing GNNs with Tokenized Mixture of Experts [75.8310720413187]
  安定性の向上には,変化に敏感な特徴への依存を低減し,既約最悪の一般化フロアを残す必要があることを示す。 本研究では,STEM-GNNを提案する。STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN,STEM-GNN。 9つのノード、リンク、グラフのベンチマークで、STEM-GNNはより強力な3方向バランスを実現し、クリアグラフ上での競争力を維持しながら、次数/ホモフィリーシフトや特徴/エッジの破損に対する堅牢性を改善している。
  論文  参考訳（メタデータ） (2026-02-09T22:48:30Z)
• Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
  データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。 よりスムーズな関数との補間により、より一般化できることを示す。
  論文  参考訳（メタデータ） (2023-05-30T19:37:44Z)
• Learning k-Level Structured Sparse Neural Networks Using Group Envelope Regularization [4.0554893636822]
  制約のあるリソースに大規模ディープニューラルネットワークをデプロイするための新しいアプローチを導入する。 この手法は推論時間を短縮し、メモリ需要と消費電力を減らすことを目的とする。
  論文  参考訳（メタデータ） (2022-12-25T15:40:05Z)
• Navigating Local Minima in Quantized Spiking Neural Networks [3.1351527202068445]
  深層学習(DL)アルゴリズムの超効率的な実装においては,スパイキングと量子ニューラルネットワーク(NN)が極めて重要になっている。 これらのネットワークは、ハードしきい値を適用する際の勾配信号の欠如により、エラーのバックプロパゲーションを使用してトレーニングする際の課題に直面している。 本稿では,コサインアニールLRスケジュールと重み非依存適応モーメント推定を併用したシステム評価を行った。
  論文  参考訳（メタデータ） (2022-02-15T06:42:25Z)
• Robust Graph Neural Networks via Probabilistic Lipschitz Constraints [7.359962178534361]
  グラフニューラルネットワーク(GNN)は、最近、さまざまなネットワークベースのタスクでうまく機能することが実証されている。 GNNは入力のシフトや摂動の影響を受けやすく、ノード属性とグラフ構造の両方を含むことができる。
  論文  参考訳（メタデータ） (2021-12-14T17:33:32Z)
• AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
  本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。 我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
  論文  参考訳（メタデータ） (2020-07-14T09:07:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。