論文の概要: CHARM: A Multimodal Graph Foundation Model with Hierarchical Context Modeling for Zero-Shot Transfer
- arxiv url: http://arxiv.org/abs/2607.26023v1
- Date: Tue, 28 Jul 2026 17:35:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-29 20:50:42.950997
- Title: CHARM: A Multimodal Graph Foundation Model with Hierarchical Context Modeling for Zero-Shot Transfer
- Title(参考訳): CHARM:ゼロショット転送のための階層的コンテキストモデリングを備えたマルチモーダルグラフ基盤モデル
- Abstract要約: グラフ基礎モデル(GFM)は、グラフドメインとタスク間で知識を伝達するための有望なパラダイムとして登場した。
ゼロショット転送のための階層型コンテキストモデリングを用いたマルチモーダルグラフ基盤モデルCHARMを提案する。
実験では、ゼロショットマルチモーダルグラフタスクに一貫した改善が示されている。
- 参考スコア(独自算出の注目度): 28.685440757890465
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph foundation models (GFMs) have emerged as a promising paradigm for transferring knowledge across graph domains and tasks. Real-world graphs associate nodes with text, images, and other modalities, making multimodal graphs essential for representing complex entities and relations. Moreover, collecting labels and adapting models for every new graph domain is costly and often infeasible, motivating zero-shot transfer. Unfortunately, zero-shot transfer on multimodal graphs remains underexplored. Existing GNN-based graph foundation models typically require downstream adaptation, whereas LLM-based graph methods mainly address unimodal graphs or tasks within a single domain. This setting presents two key challenges. First, models must generalize knowledge from individual modalities while capturing transferable cross-modal relations. Second, without target-domain fine-tuning, node representations remain entangled with domain-specific structures and modality-specific characteristics, obscuring shared concepts in unseen domains. To address these challenges, we propose CHARM, a multimodal graph foundation model with hierarchical context modeling for zero-shot transfer. CHARM replaces isolated raw nodes with hierarchical graph contexts that capture multimodal semantics and cross-modal relations. These contexts map domain-specific node patterns to shared high-level concepts, reducing reliance on target-domain supervision or adaptation. A modality-aware graph context encoder integrates multimodal information with graph structure and converts the resulting representations into graph tokens for a large language model . Experiments show consistent improvements on zero-shot multimodal graph tasks.
- Abstract(参考訳): グラフ基礎モデル(GFM)は、グラフドメインとタスク間で知識を伝達するための有望なパラダイムとして登場した。
実世界のグラフはノードとテキスト、画像、その他のモダリティを関連付け、複雑な実体や関係を表現するために必要不可欠なマルチモーダルグラフを作成する。
さらに、ラベルを収集し、新しいグラフ領域ごとにモデルを適用することはコストがかかり、しばしば実現不可能であり、ゼロショット転送を動機付けます。
残念なことに、マルチモーダルグラフ上のゼロショット転送は未発見のままである。
既存のGNNベースのグラフ基盤モデルは、通常下流適応を必要とするが、LLMベースのグラフ手法は、主に単一の領域内でのユニモーダルグラフやタスクに対処する。
この設定は2つの重要な課題を提示します。
まず、モデルは伝達可能な相互モーダル関係を捉えながら、個々のモダリティからの知識を一般化する必要がある。
第二に、ターゲットドメインの微調整なしでは、ノード表現はドメイン固有の構造とモダリティ固有の特性に絡み合い、目に見えないドメインで共有概念を隠蔽する。
これらの課題に対処するため、ゼロショット転送のための階層的コンテキストモデリングを備えたマルチモーダルグラフ基盤モデルCHARMを提案する。
CHARMは、分離された生ノードを階層的なグラフコンテキストに置き換え、マルチモーダルなセマンティクスとクロスモーダルな関係をキャプチャする。
これらのコンテキストはドメイン固有のノードパターンを共有高レベルの概念にマッピングし、ターゲットドメインの監視や適応への依存を減らす。
モダリティ対応グラフコンテキストエンコーダは、マルチモーダル情報をグラフ構造に統合し、その結果の表現を大きな言語モデルのためのグラフトークンに変換する。
実験では、ゼロショットマルチモーダルグラフタスクに一貫した改善が示されている。
関連論文リスト
- Toward Federated Multimodal Graph Foundation Models: A Topology-Aware Multimodal Alignment Framework [35.35423006939282]
FedGAMMAは2段階のセマンティック構造アライメント問題として、フェデレーション付きマルチモーダルグラフ基礎学習を論じている。
事前学習中、共有プライベートなセマンティックエンハンサーは、モダリティ固有の情報からモダリティ間の共通性を切り離す。
微調整の間、FedGAMMAは軽量なグラフ認識プロンプトを通じて事前訓練されたエンコーダに適応する。
論文 参考訳(メタデータ) (2026-07-17T06:57:41Z) - Decoupled and Divergence-Conditioned Prompt for Multi-domain Dynamic Graph Foundation Models [59.8742208800447]
分離および分散条件付きプロンプトに基づく動的グラフ基礎モデルであるDyGFMを提案する。
DyGFMは、ノード分類とリンク予測の両方において、12の最先端のベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-05-13T13:50:03Z) - OWLEYE: Zero-Shot Learner for Cross-Domain Graph Data Anomaly Detection [48.77471686671269]
OWLEYEは、複数のグラフから正常な振る舞いの伝達可能なパターンを学習する新しいフレームワークである。
OWLEYEは最先端のベースラインに比べて性能と一般化性が優れていることを示す。
論文 参考訳(メタデータ) (2026-01-27T02:08:18Z) - UniGraph2: Learning a Unified Embedding Space to Bind Multimodal Graphs [34.48393396390799]
マルチモーダルグラフ上での汎用的な表現学習を可能にする新しいクロスドメイングラフ基盤モデルを提案する。
UniGraph2は、グラフニューラルネットワーク(GNN)と共にモダリティ固有のエンコーダを使用して、統一された低次元埋め込み空間を学習する。
我々は,UniGraph2が表現学習,伝達学習,マルチモーダル生成タスクなどのタスクにおいて,最先端モデルよりも大幅に優れていることを示す。
論文 参考訳(メタデータ) (2025-02-02T14:04:53Z) - One Model for One Graph: A New Perspective for Pretraining with Cross-domain Graphs [59.7297608804716]
複雑なネットワークパターンをキャプチャする強力なツールとして、グラフニューラルネットワーク(GNN)が登場した。
既存のGNNには、慎重にドメイン固有のアーキテクチャ設計と、データセットのスクラッチからのトレーニングが必要です。
我々は、新しいクロスドメイン事前学習フレームワーク「1つのグラフのための1つのモデル」を提案する。
論文 参考訳(メタデータ) (2024-11-30T01:49:45Z) - Towards Graph Foundation Models: Training on Knowledge Graphs Enables Transferability to General Graphs [26.477872205199667]
知識グラフをトレーニングするために設計された統合グラフ推論フレームワークであるSCRを紹介する。
本稿では,従来のKG推論における意味的分離に対処する新しいメカニズムであるセマンティックコンディショニングメッセージパッシングを提案する。
以上の結果から,既存の基礎モデルよりも大幅な性能向上が見られた。
論文 参考訳(メタデータ) (2024-10-16T14:26:08Z) - A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - UniGraph: Learning a Unified Cross-Domain Foundation Model for Text-Attributed Graphs [30.635472655668078]
Text-Attributed Graphs (TAG) は、さまざまなドメインにまたがる見えないグラフやタスクに一般化することができる。
本稿では,言語モデル (LM) とグラフニューラルネットワーク (GNN) をバックボーンネットワークとして,新しいケースドアーキテクチャを提案する。
本モデルの有効性を,未確認グラフの自己教師型表現学習,少数ショットインコンテキスト転送,ゼロショット転送で実証する。
論文 参考訳(メタデータ) (2024-02-21T09:06:31Z) - One for All: Towards Training One Graph Model for All Classification Tasks [61.656962278497225]
様々なグラフタスクの統一モデルは、主にグラフ学習領域に固有の課題のために、まだ探索されていない。
上記の課題に対処するために単一のグラフモデルを使用できる最初の汎用フレームワークである textbfOne for All (OFA) を提案する。
OFAは様々なタスクでうまく機能し、グラフ上の最初の汎用のクロスドメイン分類モデルとなる。
論文 参考訳(メタデータ) (2023-09-29T21:15:26Z) - Graphonomy: Universal Image Parsing via Graph Reasoning and Transfer [140.72439827136085]
グラフィノノミー(Graphonomy)というグラフ推論・伝達学習フレームワークを提案する。
人間の知識とラベル分類を、局所畳み込みを超えた中間グラフ表現学習に組み込んでいる。
意味認識グラフの推論と転送を通じて、複数のドメインにおけるグローバルおよび構造化されたセマンティックコヒーレンシーを学習する。
論文 参考訳(メタデータ) (2021-01-26T08:19:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。