論文の概要: One Router to Route Them All: Homogeneous Expert Routing for Heterogeneous Graph Transformers
- arxiv url: http://arxiv.org/abs/2511.07603v1
- Date: Wed, 12 Nov 2025 01:06:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-12 20:17:03.397777
- Title: One Router to Route Them All: Homogeneous Expert Routing for Heterogeneous Graph Transformers
- Title（参考訳）: 経路すべてへの1つのルータ:不均一グラフ変換器の均一なエキスパートルーティング
- Authors: Georgiy Shakirov, Albert Arakelov,
- Abstract要約: 不均一グラフ変換器(HGT)の均一なエキスパートルーティング層
我々の研究は、エキスパートルーティングにおける型依存の規則化がより一般化可能、効率的、解釈可能な表現をもたらすことを示した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A common practice in heterogeneous graph neural networks (HGNNs) is to condition parameters on node/edge types, assuming types reflect semantic roles. However, this can cause overreliance on surface-level labels and impede cross-type knowledge transfer. We explore integrating Mixture-of-Experts (MoE) into HGNNs--a direction underexplored despite MoE's success in homogeneous settings. Crucially, we question the need for type-specific experts. We propose Homogeneous Expert Routing (HER), an MoE layer for Heterogeneous Graph Transformers (HGT) that stochastically masks type embeddings during routing to encourage type-agnostic specialization. Evaluated on IMDB, ACM, and DBLP for link prediction, HER consistently outperforms standard HGT and a type-separated MoE baseline. Analysis on IMDB shows HER experts specialize by semantic patterns (e.g., movie genres) rather than node types, confirming routing is driven by latent semantics. Our work demonstrates that regularizing type dependence in expert routing yields more generalizable, efficient, and interpretable representations--a new design principle for heterogeneous graph learning.
- Abstract（参考訳）: ヘテロジニアスグラフニューラルネットワーク(HGNN)の一般的な実践は、タイプがセマンティックロールを反映していると仮定して、ノード/エッジ型の条件パラメータである。
しかし、これは表面レベルラベルへの過度な依存を引き起こし、クロスタイプの知識伝達を妨げる可能性がある。
我々は,Mixture-of-Experts(MoE)をHGNNに統合する方法について検討する。
重要な点として、タイプ固有の専門家の必要性に疑問を呈する。
本稿では,HGT(Heterogeneous Graph Transformers)のためのMoE層であるHER(Homogeneous Expert Routing)を提案する。
HERはIMDB、ACM、DBLPをリンク予測として評価し、標準HGTとタイプ分離されたMoEベースラインを一貫して上回っている。
IMDBの分析では、HERの専門家がノードタイプではなくセマンティックパターン(映画ジャンルなど)で専門化している。
我々の研究は、エキスパートルーティングにおける型依存の規則化が、より一般化可能、効率的、解釈可能な表現をもたらすことを実証している。
関連論文リスト
- Beyond Fixed Depth: Adaptive Graph Neural Networks for Node Classification Under Varying Homophily [10.0426843232642]
本研究では,局所構造特性とラベル特性を情報伝達ダイナミクスに関連付ける理論的枠組みを開発する。
本稿では,ノード固有の集約深さを動的に選択する適応深度GNNアーキテクチャを提案する。
本手法は, 統一モデルにおけるホモ親和性パターンとヘテロ親和性パターンの両方にシームレスに適応する。
論文 参考訳（メタデータ） (2025-11-10T01:37:51Z) - Making Classic GNNs Strong Baselines Across Varying Homophily: A Smoothness-Generalization Perspective [21.408092607722086]
グラフニューラルネットワーク(GNN)は大きな成功を収めてきたが、グラフ内の様々なレベルのホモフィリにより、しばしば挑戦される。
最近のテクテミカル研究は、ホモフィリックGNNは異なるホモフィリレベルのデータセット間でうまく機能することを示した。
Inceptive Graph Neural Network (IGNN) は3つのシンプルで効果的な設計原理に基づいて構築されている。
論文 参考訳（メタデータ） (2024-12-13T02:44:47Z) - Leveraging Invariant Principle for Heterophilic Graph Structure Distribution Shifts [42.77503881972965]
Heterophilic Graph Neural Networks (HGNN) は、グラフ上の半教師付き学習タスクに対して有望な結果を示している。
異種情報を組み込んだ不変ノード表現を生成可能なフレームワークを提案する。
提案手法は,異種グラフ構造分布シフト下での保証性能を実現する。
論文 参考訳（メタデータ） (2024-08-18T14:10:34Z) - GraphMETRO: Mitigating Complex Graph Distribution Shifts via Mixture of Aligned Experts [75.51612253852002]
GraphMETROは、自然多様性をモデル化し、複雑な分散シフトをキャプチャするグラフニューラルネットワークアーキテクチャである。
GraphMETROはGOODベンチマークから4つのデータセットに対して最先端の結果を得る。
論文 参考訳（メタデータ） (2023-12-07T20:56:07Z) - Link Prediction on Latent Heterogeneous Graphs [18.110053023118294]
潜時不均質グラフ(LHG)におけるリンク予測の難解で未探索な問題について検討する。
ノードとパスレベルにおけるセマンティック埋め込みという新しいアイデアに基づいて,LHGNNというモデルを提案し,ノード間の潜在セマンティックスをキャプチャする。
4つのベンチマークデータセットに対して広範な実験を行い、LHGNNの優れた性能を示す。
論文 参考訳（メタデータ） (2023-02-21T04:09:51Z) - Heterophily-Aware Graph Attention Network [42.640057865981156]
グラフニューラルネットワーク(GNN)はグラフ表現学習において顕著な成功を収めている。
既存のヘテロフィル性GNNは、各エッジのヘテロフィリのモデリングを無視する傾向にあり、これはヘテロフィリ問題に取り組む上でも不可欠である。
本稿では,局所分布を基礎となるヘテロフィリーとして完全に探索し,活用することで,新たなヘテロフィア対応グラフ注意ネットワーク(HA-GAT)を提案する。
論文 参考訳（メタデータ） (2023-02-07T03:21:55Z) - Is Homophily a Necessity for Graph Neural Networks? [50.959340355849896]
グラフニューラルネットワーク(GNN)は、多数のグラフベースの機械学習タスクに適した学習表現において大きな進歩を見せている。
GNNはホモフィリーな仮定によりうまく機能し、異種ノードが接続する異種グラフへの一般化に失敗したと広く信じられている。
最近の研究は、このような不均一な制限を克服する新しいアーキテクチャを設計し、ベースライン性能の低さと、この概念の証拠として、いくつかの異種グラフベンチマークデータセットに対するアーキテクチャの改善を引用している。
我々の実験では、標準グラフ畳み込みネットワーク(GCN)が実際よりも優れた性能を実現できることを実証的に見出した。
論文 参考訳（メタデータ） (2021-06-11T02:44:00Z) - Higher-Order Attribute-Enhancing Heterogeneous Graph Neural Networks [67.25782890241496]
異種ネットワーク表現学習のための高次属性強化グラフニューラルネットワーク(HAEGNN)を提案する。
HAEGNNは、リッチで異質なセマンティクスのためのメタパスとメタグラフを同時に組み込む。
ノード分類、ノードクラスタリング、可視化における最先端の手法よりも優れたパフォーマンスを示す。
論文 参考訳（メタデータ） (2021-04-16T04:56:38Z) - Learning the Implicit Semantic Representation on Graph-Structured Data [57.670106959061634]
グラフ畳み込みネットワークにおける既存の表現学習手法は主に、各ノードの近傍を知覚全体として記述することで設計される。
本稿では,グラフの潜在意味パスを学習することで暗黙的な意味を探索する意味グラフ畳み込みネットワーク(sgcn)を提案する。
論文 参考訳（メタデータ） (2021-01-16T16:18:43Z) - Heterogeneous Graph Transformer [49.675064816860505]
Webスケールの不均一グラフモデリングのための不均一グラフ変換器(HGT)アーキテクチャ
動的ヘテロジニアスグラフを扱うために、HGTに相対時間符号化手法を導入する。
Web スケールのグラフデータを扱うため,ヘテロジニアスなミニバッチグラフサンプリングアルゴリズム--HGSampling--を設計し,効率的かつスケーラブルなトレーニングを行う。
論文 参考訳（メタデータ） (2020-03-03T04:49:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。