論文の概要: SAMGPT: Text-free Graph Foundation Model for Multi-domain Pre-training and Cross-domain Adaptation

• arxiv url: http://arxiv.org/abs/2502.05424v1
• Date: Sat, 08 Feb 2025 03:24:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-11 14:35:37.294394
• Title: SAMGPT: Text-free Graph Foundation Model for Multi-domain Pre-training and Cross-domain Adaptation
• Title（参考訳）: SAMGPT:マルチドメイン事前学習とクロスドメイン適応のためのテキストフリーグラフ基礎モデル
• Authors: Xingtong Yu, Zechuan Gong, Chang Zhou, Yuan Fang, Hui Zhang,
• Abstract要約: テキストのないマルチドメイングラフ事前学習とクロスドメイン適応のための新しい構造アライメントフレームワークを提案する。 複数のソースドメインを起源とするグラフから、マルチドメインの知識を学ぶように設計されている。
• 参考スコア（独自算出の注目度）: 29.885969929608216
• License:
• Abstract: Graphs are able to model interconnected entities in many online services, supporting a wide range of applications on the Web. This raises an important question: How can we train a graph foundational model on multiple source domains and adapt to an unseen target domain? A major obstacle is that graphs from different domains often exhibit divergent characteristics. Some studies leverage large language models to align multiple domains based on textual descriptions associated with the graphs, limiting their applicability to text-attributed graphs. For text-free graphs, a few recent works attempt to align different feature distributions across domains, while generally neglecting structural differences. In this work, we propose a novel Structure Alignment framework for text-free Multi-domain Graph Pre-Training and cross-domain adaptation (SAMGPT). It is designed to learn multi-domain knowledge from graphs originating in multiple source domains, which can then be adapted to address applications in an unseen target domain. Specifically, we introduce a set of structure tokens to harmonize structure-based aggregation across source domains during the pre-training phase. Next, for cross-domain adaptation, we design dual prompts, namely, holistic prompts and specific prompts, which adapt unified multi-domain structural knowledge and fine-grained, domain-specific information, respectively, to a target domain. Finally, we conduct comprehensive experiments on seven public datasets to evaluate and analyze the effectiveness of SAMGPT.
• Abstract（参考訳）: グラフは多くのオンラインサービスにおいて相互接続されたエンティティをモデル化することができ、Web上の幅広いアプリケーションをサポートする。 複数のソースドメインでグラフ基礎モデルをトレーニングし、目に見えないターゲットドメインに適応するにはどうすればいいのか? 主な障害は、異なる領域のグラフがしばしば異なる特性を示すことである。 いくつかの研究では、大きな言語モデルを利用して、グラフに関連付けられたテキスト記述に基づいて複数のドメインを整列させ、それらがテキスト分散グラフに適用可能であることを制限している。 テキストのないグラフでは、いくつかの最近の研究は、一般に構造的な違いを無視しながら、ドメイン間で異なる特徴分布を整合させようとしている。 本研究では,テキストフリーなマルチドメイングラフ事前学習とクロスドメイン適応のための新しい構造アライメントフレームワークを提案する。 複数のソースドメインを起源とするグラフから、マルチドメインの知識を学ぶように設計されている。 具体的には、事前学習期間中に、ソースドメイン間の構造ベースのアグリゲーションを調和させる構造トークンのセットを紹介する。 次に、クロスドメイン適応のための二重プロンプト、すなわち全体的プロンプトと特定のプロンプトを設計し、統一された多ドメイン構造知識と細粒度なドメイン固有情報を対象ドメインに適応させる。 最後に、SAMGPTの有効性を評価し、分析するために、7つの公開データセットに関する総合的な実験を行う。

関連論文リスト

• SA-GDA: Spectral Augmentation for Graph Domain Adaptation [38.71041292000361]
  グラフニューラルネットワーク(GNN)は、グラフ関連のタスクに対して印象的な成果を上げている。 本稿では、グラフノード分類のためのグラフドメイン適応のためのtextitSpectral Augmentation(method)を提案する。 特徴集約のための局所的および大域的一貫性を協調的に活用するデュアルグラフ畳み込みネットワークを開発した。
  論文  参考訳（メタデータ） (2024-08-17T13:01:45Z)
• A Unified Data Augmentation Framework for Low-Resource Multi-Domain Dialogue Generation [52.0964459842176]
  現在の最先端の対話システムは、広範なトレーニングデータセットに大きく依存している。 我々はtextbfAMD$2$G と呼ばれる textbfMulti-textbfDomain textbfDialogue textbfGeneration のための新しいデータ textbfAugmentation フレームワークを提案する。 AMD$2$Gフレームワークは、データ拡張プロセスと、ドメインに依存しないトレーニングとドメイン適応トレーニングという2段階のトレーニングアプローチで構成されている。
  論文  参考訳（メタデータ） (2024-06-14T09:52:27Z)
• Text-Free Multi-domain Graph Pre-training: Toward Graph Foundation Models [33.2696184519275]
  テキストフリーなマルチドメイングラフ事前学習・適応フレームワークMDGPTを提案する。 まず、シナジスティックな事前学習のために、ソースドメインにまたがる機能を整列する一連のドメイントークンを提案する。 第2に、統合されたプロンプトと混合プロンプトからなる二重プロンプトを提案し、統合されたマルチドメイン知識でターゲットドメインをさらに適応させる。
  論文  参考訳（メタデータ） (2024-05-22T19:06:39Z)
• Large-Scale Multi-Domain Recommendation: an Automatic Domain Feature Extraction and Personalized Integration Framework [30.46152832695426]
  大規模マルチドメインレコメンデーションのための自動ドメイン特徴抽出とパーソナライズド統合(DFEI)フレームワークを提案する。 このフレームワークは個々のユーザの振る舞いを自動的にドメイン内のすべてのユーザの振る舞いの集約に変換し、ドメインの機能として機能します。 20以上のドメインからなるパブリックデータセットと産業データセットの実験結果から,提案フレームワークがSOTAベースラインと比較して大幅に性能が向上していることが明らかとなった。
  論文  参考訳（メタデータ） (2024-04-12T09:57:17Z)
• Bidirectional Generative Framework for Cross-domain Aspect-based Sentiment Analysis [68.742820522137]
  クロスドメインアスペクトベースの感情分析(ABSA)は、ソースドメインから知識を伝達することで、ターゲットドメイン上で様々なきめ細かい感情分析タスクを実行することを目的としている。 本稿では,多様なドメイン間ABSAタスクに対処するための統合双方向生成フレームワークを提案する。 我々のフレームワークは、テキストからラベルまでの方向とラベルからテキストへの方向の両方で生成モデルを訓練する。
  論文  参考訳（メタデータ） (2023-05-16T15:02:23Z)
• Multi-Modal Cross-Domain Alignment Network for Video Moment Retrieval [55.122020263319634]
  ビデオモーメント検索(VMR)は、与えられた言語クエリに従って、未編集のビデオからターゲットモーメントをローカライズすることを目的としている。 本稿では、新しいタスクであるクロスドメインVMRに焦点を当て、完全なアノテーション付きデータセットをひとつのドメインで利用できるが、関心のあるドメインは、注釈なしのデータセットのみを含む。 本稿では、アノテーションの知識をソースドメインからターゲットドメインに転送するマルチモーダル・クロスドメインアライメント・ネットワークを提案する。
  論文  参考訳（メタデータ） (2022-09-23T12:58:20Z)
• Finding Diverse and Predictable Subgraphs for Graph Domain Generalization [88.32356432272356]
  本稿では,不明瞭な分布シフトにより性能が低下するグラフの分布外一般化に着目した。 本稿では,DPSと呼ばれる新しいグラフ領域の一般化フレームワークを提案する。 ノードレベルのベンチマークとグラフレベルのベンチマークの両方の実験により、提案したDPSはグラフ領域の一般化タスクにおいて印象的な性能を発揮することが示された。
  論文  参考訳（メタデータ） (2022-06-19T07:57:56Z)
• Dynamic Instance Domain Adaptation [109.53575039217094]
  教師なしのドメイン適応に関するほとんどの研究は、各ドメインのトレーニングサンプルがドメインラベルを伴っていると仮定している。 適応的な畳み込みカーネルを持つ動的ニューラルネットワークを開発し、各インスタンスにドメインに依存しない深い特徴を適応させるために、インスタンス適応残差を生成する。 我々のモデルはDIDA-Netと呼ばれ、複数の一般的な単一ソースおよび複数ソースのUDAデータセット上で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-03-09T20:05:54Z)
• Multi-Domain Incremental Learning for Semantic Segmentation [42.30646442211311]
  そこで,同質な意味的特徴を捉えるために,普遍的に共有されるドメイン不変パラメータを割り当てる動的アーキテクチャを提案する。 提案手法が、ドイツ(都市景観)、アメリカ合衆国(BDD100k)、インド(IDD)の道路(都市景観)の実際の運転シーンに関連する領域の漸進的な設定に与える影響を実証する。
  論文  参考訳（メタデータ） (2021-10-23T12:21:42Z)
• Curriculum Graph Co-Teaching for Multi-Target Domain Adaptation [78.28390172958643]
  マルチターゲットドメイン適応(MTDA)における複数のドメインシフトを軽減するのに役立つ2つの重要な側面を同定する。 本論文では,二重分類器ヘッドを用いたCGCT(Curriculum Graph Co-Teaching)を提案する。そのうちの1つがグラフ畳み込みネットワーク(GCN)である。 ドメインラベルが利用可能になると、まずより簡単なターゲットドメインに適応し、続いて難しいドメインに適応する逐次適応戦略であるDomain-Aware Curriculum Learning (DCL)を提案する。
  論文  参考訳（メタデータ） (2021-04-01T23:41:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。