論文の概要: Out-of-Distribution Graph Models Merging

• arxiv url: http://arxiv.org/abs/2506.03674v1
• Date: Wed, 04 Jun 2025 08:04:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-05 21:20:14.219937
• Title: Out-of-Distribution Graph Models Merging
• Title（参考訳）: アウト・オブ・ディストリビューショングラフモデルの統合
• Authors: Yidi Wang, Jiawei Gu, pei Xiaobing, Xubin Zheng, Xiao Luo, Pengyang Wang, Ziyue Qiao,
• Abstract要約: 本稿では,複数の領域の混合分布をインスタンス化するグラフ生成戦略を提案する。 私たちのフレームワークはアーキテクチャに依存しないので、ソース/ターゲットドメインデータなしで運用できます。
• 参考スコア（独自算出の注目度）: 9.926662903459691
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper studies a novel problem of out-of-distribution graph models merging, which aims to construct a generalized model from multiple graph models pre-trained on different domains with distribution discrepancy. This problem is challenging because of the difficulty in learning domain-invariant knowledge implicitly in model parameters and consolidating expertise from potentially heterogeneous GNN backbones. In this work, we propose a graph generation strategy that instantiates the mixture distribution of multiple domains. Then, we merge and fine-tune the pre-trained graph models via a MoE module and a masking mechanism for generalized adaptation. Our framework is architecture-agnostic and can operate without any source/target domain data. Both theoretical analysis and experimental results demonstrate the effectiveness of our approach in addressing the model generalization problem.
• Abstract（参考訳）: 本稿では,分散不一致の異なる領域で事前学習した複数のグラフモデルから一般化されたモデルを構築することを目的とした,分散外グラフモデル統合の新たな問題について検討する。 この問題は、モデルパラメーターにおいて暗黙的にドメイン不変の知識を学習し、潜在的に異種なGNNバックボーンから専門知識を統合するのが難しいためである。 本研究では,複数の領域の混合分布をインスタンス化するグラフ生成戦略を提案する。 そして、MoEモジュールと一般化適応のためのマスキング機構を介して、事前学習したグラフモデルをマージし、微調整する。 私たちのフレームワークはアーキテクチャに依存しないので、ソース/ターゲットドメインデータなしで運用できます。 理論解析と実験結果は,モデル一般化問題へのアプローチの有効性を示すものである。

関連論文リスト

• Do Graph Diffusion Models Accurately Capture and Generate Substructure Distributions? [28.19526635775658]
  拡散モデルは、複素グラフデータの分布スコアを正確にモデル化する普遍的な表現性を持っていない。 本研究は,対象とするグラフ分布の鍵となる特徴として,特定の部分構造の周波数に着目して,この制限に対処する。 グラフニューラルネットワーク(GNN)の表現性とグラフ拡散モデル全体の性能との理論的関係を確立する。
  論文  参考訳（メタデータ） (2025-02-04T17:04:16Z)
• One Model for One Graph: A New Perspective for Pretraining with Cross-domain Graphs [59.7297608804716]
  複雑なネットワークパターンをキャプチャする強力なツールとして、グラフニューラルネットワーク(GNN)が登場した。 既存のGNNには、慎重にドメイン固有のアーキテクチャ設計と、データセットのスクラッチからのトレーニングが必要です。 我々は、新しいクロスドメイン事前学習フレームワーク「1つのグラフのための1つのモデル」を提案する。
  論文  参考訳（メタデータ） (2024-11-30T01:49:45Z)
• Learning Divergence Fields for Shift-Robust Graph Representations [73.11818515795761]
  本研究では,相互依存データに対する問題に対して,学習可能な分散場を持つ幾何学的拡散モデルを提案する。 因果推論によって新たな学習目標が導出され、ドメイン間で無神経な相互依存の一般化可能なパターンを学習するためのモデルが導出される。
  論文  参考訳（メタデータ） (2024-06-07T14:29:21Z)
• Task Groupings Regularization: Data-Free Meta-Learning with Heterogeneous Pre-trained Models [83.02797560769285]
  Data-Free Meta-Learning (DFML)は、トレーニング済みモデルのコレクションから、元のデータにアクセスせずに知識を抽出することを目的としている。 現在の手法は、事前訓練されたモデル間の不均一性を見落とし、タスクの衝突による性能低下につながることが多い。
  論文  参考訳（メタデータ） (2024-05-26T13:11:55Z)
• PGODE: Towards High-quality System Dynamics Modeling [40.76121531452706]
  本稿では,エージェントが相互に相互作用して動作に影響を与えるマルチエージェント力学系をモデル化する問題について検討する。 最近の研究では、主に幾何学グラフを用いてこれらの相互相互作用を表現し、グラフニューラルネットワーク(GNN)によって捉えられている。 本稿では,プロトタイプグラフODE(Prototypeal Graph ODE)という新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2023-11-11T12:04:47Z)
• On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
  異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。 このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。 我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
  論文  参考訳（メタデータ） (2022-06-09T17:12:32Z)
• Score-based Generative Modeling of Graphs via the System of Stochastic Differential Equations [57.15855198512551]
  本稿では,連続時間フレームワークを用いたグラフのスコアベース生成モデルを提案する。 本手法は, トレーニング分布に近い分子を生成できるが, 化学価数則に違反しないことを示す。
  論文  参考訳（メタデータ） (2022-02-05T08:21:04Z)
• Crime Prediction with Graph Neural Networks and Multivariate Normal Distributions [18.640610803366876]
  グラフ畳み込みネットワーク(GCN)のフレキシブルな構造を利用して,高分解能領域における疎結合問題に取り組む。 グラフ畳み込みGated Recurrent Units (Graph-ConvGRU) を用いてモデルを構築し,空間的・時間的・カテゴリー的関係を学習する。 モデルが生成性だけでなく,正確性も示しています。
  論文  参考訳（メタデータ） (2021-11-29T17:37:01Z)
• Adversarial Stein Training for Graph Energy Models [11.182263394122142]
  我々は、多チャネルグラフニューラルネットワーク(GNN)に基づくエネルギーベースモデル(EBM)を用いて、グラフ上の不変な非正規化密度関数の置換を学習する。 提案手法は,ベンチマークモデルと比較して,グラフ生成における競合的な結果が得られることがわかった。
  論文  参考訳（メタデータ） (2021-08-30T03:55:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。