論文の概要: More Domains, No Gains? FLO: Fast-Slow Reciprocal Learning for Multi-Domain Graph Pre-training
- arxiv url: http://arxiv.org/abs/2610.14748v1
- Date: Sat, 10 Oct 2026 09:12:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 11:53:24.447282
- Title: More Domains, No Gains? FLO: Fast-Slow Reciprocal Learning for Multi-Domain Graph Pre-training
- Title(参考訳): FLO:マルチドメイングラフ事前学習のための高速スロー相互学習
- Abstract要約: Graph Foundation Modelsはグラフインテリジェンスを進化させる可能性を秘めている。
Floはマルチドメイングラフ事前トレーニングのためのFast-sLow reciprOcalアプローチである。
12のデータセットでは、ドメインの多様性の増加によるFLOのメリットは、クロスドメインおよびクロスタスク転送における最高の平均パフォーマンスを達成する。
- 参考スコア(独自算出の注目度): 25.380024917493454
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Inspired by the great success of foundation models in the development of artificial general intelligence, Graph Foundation Models (GFMs) have recently attracted significant attention and have the potential to advance graph intelligence. Exhibiting such intelligence requires effectively learning knowledge from large-scale, multi-domain graph data during pre-training. Increasing domain diversity during pre-training is expected to yield richer and more generalizable knowledge. Most existing methods pursue this goal by designing domain alignment strategies that help a single graph model learn from multiple domains. However, we observe that existing methods struggle to benefit from increasing domain diversity. Through empirical and theoretical analysis, we reveal two key limitations. Firstly, pre-training in most GFMs is confined to a single message-passing paradigm. Since propagation flattens relations among neighboring nodes, the graph model can hardly perceive the knowledge beyond propagation, namely the attribute-predictable component of these relations. Secondly, domain alignment strategies often rely on randomly initialized parameters that are jointly updated with the graph model using immediate loss feedback, leaving early knowledge acquisition vulnerable to cross-domain interference. To address these issues, we propose FLO, a Fast--sLow reciprOcal approach for multi-domain graph pre-training. Specifically, a propagation-free attribute branch predicts the graph model's relations without message passing and returns these predictions to refine the model. We further stabilize knowledge acquisition by pairing a fast process that adapts to the current domain with a slow process that integrates knowledge across domains. On 12 datasets, FLO benefits from increasing domain diversity and achieves the best average performance in cross-domain and cross-task transfer.
- Abstract(参考訳): 人工知能の発展における基礎モデルの大きな成功に触発されて、グラフ基礎モデル(GFM)は近年、大きな注目を集め、グラフインテリジェンスを前進させる可能性を秘めている。
このようなインテリジェンスを展示するには、事前トレーニング中に大規模なマルチドメイングラフデータから効果的に知識を学ぶ必要がある。
プレトレーニング中のドメインの多様性の増大は、より豊かでより一般化可能な知識をもたらすことが期待されている。
既存のほとんどのメソッドは、単一のグラフモデルが複数のドメインから学習するのに役立つドメインアライメント戦略を設計することで、この目標を追求しています。
しかし、既存の手法はドメインの多様性の増大の恩恵を受けるのに苦慮している。
経験的および理論的分析により、2つの重要な限界が明らかになった。
第一に、ほとんどのGFMにおける事前訓練は単一のメッセージパッシングパラダイムに限られる。
伝播は隣接ノード間の関係をフラットにするので、グラフモデルは伝播以外の知識、すなわちこれらの関係の属性予測可能な要素をほとんど知覚できない。
第二に、ドメインアライメント戦略は、しばしばランダムに初期化パラメータに頼り、即時損失フィードバックを使用してグラフモデルと共同で更新され、初期の知識獲得はドメイン間の干渉に弱いままである。
これらの問題に対処するために、FLO(Fast-sLow reciprOcal approach for multi- domain graph pre-training)を提案する。
具体的には、伝播のない属性ブランチは、メッセージパッシングなしでグラフモデルの関係を予測し、これらの予測をモデルを洗練させるために返します。
ドメイン間の知識を統合する遅いプロセスで、現在のドメインに適応する高速なプロセスと組み合わせることで、知識獲得をさらに安定化する。
12のデータセットでは、FLOはドメインの多様性の向上の恩恵を受け、クロスドメインおよびクロスタスク転送における最高の平均パフォーマンスを達成する。
関連論文リスト
- Decoupled and Divergence-Conditioned Prompt for Multi-domain Dynamic Graph Foundation Models [59.8742208800447]
分離および分散条件付きプロンプトに基づく動的グラフ基礎モデルであるDyGFMを提案する。
DyGFMは、ノード分類とリンク予測の両方において、12の最先端のベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-05-13T13:50:03Z) - LEDA: Latent Semantic Distribution Alignment for Multi-domain Graph Pre-training [26.195024921277962]
汎用グラフ事前学習のための新しいLatent sEmantic Distribution Alignment (LEDA) モデルを提案する。
LEDAは、広範囲のグラフと下流タスクに強いパフォーマンスを示す。
論文 参考訳(メタデータ) (2026-02-26T06:18:14Z) - GraphKeeper: Graph Domain-Incremental Learning via Knowledge Disentanglement and Preservation [39.188993605319276]
グラフドメイン増分学習(Domain-IL)は、複数のグラフドメインにわたるモデルを更新することを目的としている。
本稿では,Domain-ILシナリオにおける破滅的な忘れに対処するためのGraphKeeperを提案する。
GraphKeeperは6.5%16.6%の改善を達成している。
論文 参考訳(メタデータ) (2025-10-30T13:14:51Z) - Towards Effective Federated Graph Foundation Model via Mitigating Knowledge Entanglement [9.87623531653534]
グラフ基礎モデル(GFM)は強力なドメイン一般化を提供するが、通常は単一のマシンで訓練される。
我々は,新しい分散GFMトレーニングパラダイムであるFedGFMを提案する。
主な課題は知識の絡み合いであり、多分野の知識は区別できない表現に融合する。
2つのコアモジュールを持つ拡張フレームワークであるFedGFM+を,知識の絡み合いを軽減するために提案する。
論文 参考訳(メタデータ) (2025-05-19T04:06:32Z) - Multi-Domain Graph Foundation Models: Robust Knowledge Transfer via Topology Alignment [9.215549756572976]
実世界のグラフはスパースが多く、ノイズの多い接続や敵の攻撃を受けやすい。
本稿では,ドメイン間のトポロジ情報を整合化し活用する統合フレームワークであるMDGFMを提案する。
トポロジを整列させることで、MDGFMはマルチドメイン事前学習を改善するだけでなく、目に見えないドメインへの堅牢な知識伝達を可能にする。
論文 参考訳(メタデータ) (2025-02-04T05:09:23Z) - One Model for One Graph: A New Perspective for Pretraining with Cross-domain Graphs [59.7297608804716]
複雑なネットワークパターンをキャプチャする強力なツールとして、グラフニューラルネットワーク(GNN)が登場した。
既存のGNNには、慎重にドメイン固有のアーキテクチャ設計と、データセットのスクラッチからのトレーニングが必要です。
我々は、新しいクロスドメイン事前学習フレームワーク「1つのグラフのための1つのモデル」を提案する。
論文 参考訳(メタデータ) (2024-11-30T01:49:45Z) - Domain Expansion and Boundary Growth for Open-Set Single-Source Domain Generalization [70.02187124865627]
オープンソースの単一ソースドメインの一般化は、単一のソースドメインを使用して、未知のターゲットドメインに一般化可能な堅牢なモデルを学ぶことを目的としている。
本稿では,領域拡大と境界成長に基づく新しい学習手法を提案する。
提案手法は,いくつかの領域横断画像分類データセットにおいて,大幅な改善と最先端性能を実現することができる。
論文 参考訳(メタデータ) (2024-11-05T09:08:46Z) - Exploiting Graph Structured Cross-Domain Representation for Multi-Domain
Recommendation [71.45854187886088]
マルチドメインレコメンデータシステムは、クロスドメイン表現学習とポジティブな知識伝達の恩恵を受ける。
我々はMAGRecと呼ばれる手法のコンテキスト情報として時間的ドメイン内相互作用とドメイン間相互作用を用いる。
我々は、MAGRecが最先端の手法を一貫して上回る様々なシナリオで、公開データセットで実験を行う。
論文 参考訳(メタデータ) (2023-02-12T19:51:32Z) - Learning to Combine: Knowledge Aggregation for Multi-Source Domain
Adaptation [56.694330303488435]
マルチソースドメイン適応(LtC-MSDA)フレームワークを併用する学習法を提案する。
簡単に言うと、知識グラフは様々なドメインのプロトタイプ上に構築され、セマンティックに隣接した表現間の情報伝達を実現する。
我々のアプローチは、既存の手法よりも顕著なマージンで優れています。
論文 参考訳(メタデータ) (2020-07-17T07:52:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。