論文の概要: Exposition on over-squashing problem on GNNs: Current Methods, Benchmarks and Challenges

• arxiv url: http://arxiv.org/abs/2311.07073v2
• Date: Fri, 17 Nov 2023 22:51:23 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-22 16:31:55.103410
• Title: Exposition on over-squashing problem on GNNs: Current Methods, Benchmarks and Challenges
• Title（参考訳）: GNNにおけるオーバーカッシング問題に関する解説:現状, ベンチマーク, 課題
• Authors: Dai Shi, Andi Han, Lequan Lin, Yi Guo, Junbin Gao
• Abstract要約: グラフベースのメッセージパッシングニューラルネットワーク(MPNN)は、ノードレベルの学習タスクとグラフレベルの学習タスクの両方で大きな成功を収めている。 オーバースカッシング(OSQ)は、MPNNの学習精度が徐々に低下する最新の問題として機能する。
• 参考スコア（独自算出の注目度）: 31.977674325129076
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Graph-based message-passing neural networks (MPNNs) have achieved remarkable success in both node and graph-level learning tasks. However, several identified problems, including over-smoothing (OSM), limited expressive power, and over-squashing (OSQ), still limit the performance of MPNNs. In particular, OSQ serves as the latest identified problem, where MPNNs gradually lose their learning accuracy when long-range dependencies between graph nodes are required. In this work, we provide an exposition on the OSQ problem by summarizing different formulations of OSQ from current literature, as well as the three different categories of approaches for addressing the OSQ problem. In addition, we also discuss the alignment between OSQ and expressive power and the trade-off between OSQ and OSM. Furthermore, we summarize the empirical methods leveraged from existing works to verify the efficiency of OSQ mitigation approaches, with illustrations of their computational complexities. Lastly, we list some open questions that are of interest for further exploration of the OSQ problem along with potential directions from the best of our knowledge.
• Abstract（参考訳）: グラフベースのメッセージパッシングニューラルネットワーク(mpnn)は、ノードとグラフレベルの学習タスクの両方で顕著な成功を収めている。 しかし、Over-Smoothing (OSM)、限定的な表現力、Over-Squashing (OSQ) といったいくつかの問題はまだMPNNの性能を制限している。 特にOSQは,グラフノード間の長距離依存関係が必要な場合,MPNNが学習精度を徐々に低下させる,最新の問題として機能する。 本研究は,OSQ問題に対処する3つのアプローチカテゴリとともに,現在の文献からOSQの異なる定式化を要約することによって,OSQ問題に関する解説を行う。 また,OSQと表現力の整合性,OSQとOSMのトレードオフについても論じる。 さらに,既存の研究から活用した経験的手法を概説し,osq緩和手法の効率性を検証するとともに,計算の複雑さを例示する。 最後に、我々は、我々の知識の最良の方向とともに、osq問題をさらに探究するために関心のあるいくつかの公開質問をリストアップします。

関連論文リスト

• Generalization Error Bound for Quantum Machine Learning in NISQ Era -- A Survey [37.69303106863453]
  我々は、NISQ時代における教師付き量子機械学習(QML)の最先端の一般化について、システムマッピング研究(SMS)を実施している。 本研究は,既存の計算プラットフォームを,量子ハードウェア,データセット,最適化手法,文献に見られる境界の共通特性で体系的に要約する。 SMSはまた、NISQ時代のQMLの限界と課題を強調し、分野を前進させる今後の研究の方向性について論じている。
  論文  参考訳（メタデータ） (2024-09-11T21:17:30Z)
• From Graphs to Qubits: A Critical Review of Quantum Graph Neural Networks [56.51893966016221]
  量子グラフニューラルネットワーク(QGNN)は、量子コンピューティングとグラフニューラルネットワーク(GNN)の新たな融合を表す。 本稿では,QGNNの現状を批判的にレビューし,様々なアーキテクチャを探求する。 我々は、高エネルギー物理学、分子化学、ファイナンス、地球科学など多種多様な分野にまたがる応用について論じ、量子的優位性の可能性を強調した。
  論文  参考訳（メタデータ） (2024-08-12T22:53:14Z)
• Adaptive User-Centric Entanglement Routing in Quantum Data Networks [5.421492821020181]
  分散量子コンピューティング(DQC)は、量子データネットワーク(QDN)を介して複数の小さな量子コンピュータ(QC)を相互接続することで、量子コンピューティングの可能性を活用するという大きな可能性を秘めている。 QDN内の量子テレポーテーションのための2つのQC間の長距離量子絡み合わせを確立することは重要な側面であり、絡み合わせルーティングを伴う。 既存のアプローチは主に、現在の絡み合い接続(EC)要求に対する絡み合い性能の最適化に重点を置いている。 本稿では,ユーザの予算制約に固執しながら,絡み合いの成功率を最大化するために,長期にわたるユーザ中心の絡み合いルーティング問題を提案する。
  論文  参考訳（メタデータ） (2024-04-13T17:20:00Z)
• FusionMind -- Improving question and answering with external context fusion [0.0]
  事前学習言語モデル(LM)と知識グラフ(KG)を用いて,文脈知識が質問応答目標(QA)に与える影響を検討した。 知識事実のコンテキストを取り入れることで、パフォーマンスが大幅に向上することがわかった。 このことは、文脈的知識事実の統合が、質問応答のパフォーマンスを高める上でより影響があることを示唆している。
  論文  参考訳（メタデータ） (2023-12-31T03:51:31Z)
• Over-Squashing in Graph Neural Networks: A Comprehensive survey [0.0]
  この調査は、グラフニューラルネットワーク(GNN)におけるオーバースカッシングの課題を掘り下げるものだ。 オーバースカッシングの原因、結果、緩和戦略を包括的に探求する。 グラフの書き換え、新しい正規化、スペクトル分析、曲率に基づく戦略など、様々な手法がレビューされている。 また、オーバー・スムーシングなど、オーバー・スカッシングと他のGNN制限との相互作用についても論じている。
  論文  参考訳（メタデータ） (2023-08-29T18:46:15Z)
• Matching Game for Optimized Association in Quantum Communication Networks [65.16483325184237]
  本稿では,量子スイッチのためのスワップスタブルな要求-QSアソシエーションアルゴリズムを提案する。 サービスされた要求の割合で、ほぼ最適(5%)のパフォーマンスを達成する。 QCNのサイズが大きくなると、スケーラビリティが向上し、ほぼ最適性能を維持することが示されている。
  論文  参考訳（メタデータ） (2023-05-22T03:39:18Z)
• Scaling Limits of Quantum Repeater Networks [62.75241407271626]
  量子ネットワーク(QN)は、セキュアな通信、強化されたセンシング、効率的な分散量子コンピューティングのための有望なプラットフォームである。 量子状態の脆弱な性質のため、これらのネットワークはスケーラビリティの観点から大きな課題に直面している。 本稿では,量子リピータネットワーク(QRN)のスケーリング限界について解析する。
  論文  参考訳（メタデータ） (2023-05-15T14:57:01Z)
• The Unified Effect of Data Encoding, Ansatz Expressibility and Entanglement on the Trainability of HQNNs [0.0]
  量子ニューラルネットワーク(QNN)におけるバレンプラトー問題に寄与するいくつかの因子の組合せ効果について検討する。 これらの要因には、データの符号化、クォービットの絡み合い、およびアンザッツ表現性が含まれる。 本フレームワークは,これらの要因がHQNNのトレーニング環境に与える影響を分析することを目的としている。
  論文  参考訳（メタデータ） (2023-05-08T06:57:42Z)
• Problem-Dependent Power of Quantum Neural Networks on Multi-Class Classification [83.20479832949069]
  量子ニューラルネットワーク(QNN)は物理世界を理解する上で重要なツールとなっているが、その利点と限界は完全には理解されていない。 本稿では,多クラス分類タスクにおけるQCの問題依存力について検討する。 我々の研究はQNNの課題依存力に光を当て、その潜在的なメリットを評価するための実践的なツールを提供する。
  論文  参考訳（メタデータ） (2022-12-29T10:46:40Z)
• VQA-GNN: Reasoning with Multimodal Knowledge via Graph Neural Networks for Visual Question Answering [79.22069768972207]
  本稿では,VQA-GNNモデルを提案する。VQA-GNNは,非構造化知識と構造化知識の双方向融合を行い,統一知識表現を得る。 具体的には,シーングラフとコンセプトグラフを,QAコンテキストを表すスーパーノードを介して相互接続する。 課題2つのVQAタスクにおいて,本手法はVCRが3.2%,GQAが4.6%,強いベースラインVQAが3.2%向上し,概念レベルの推論を行う上での強みが示唆された。
  論文  参考訳（メタデータ） (2022-05-23T17:55:34Z)
• QA-GNN: Reasoning with Language Models and Knowledge Graphs for Question Answering [122.84513233992422]
  学習済み言語モデル(LM)と知識グラフ(KG)の知識を用いて質問に答える問題に対処する新しいモデルであるQA-GNNを提案する。 既存のLMとLM+KGモデルに対する改善と、解釈可能で構造化された推論を行う能力を示しています。
  論文  参考訳（メタデータ） (2021-04-13T17:32:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。