論文の概要: Mochi: Aligning Pre-training and Inference for Efficient Graph Foundation Models via Meta-Learning

• arxiv url: http://arxiv.org/abs/2604.22031v1
• Date: Thu, 23 Apr 2026 19:46:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-27 15:36:26.250845
• Title: Mochi: Aligning Pre-training and Inference for Efficient Graph Foundation Models via Meta-Learning
• Title（参考訳）: mochi: メタ学習によるグラフ基礎モデルの事前学習と推論の調整
• Authors: João Mattos, Arlei Silva,
• Abstract要約: タスク統合とトレーニング効率に対処するグラフ基礎モデルである望(もち)を提案する。 既存のグラフファウンデーションモデルと比較して、より強力な変形であるMize++と、競争力または優れたパフォーマンスを示す。
• 参考スコア（独自算出の注目度）: 6.667620413122568
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose Mochi, a Graph Foundation Model that addresses task unification and training efficiency by adopting a meta-learning based training framework. Prior models pre-train with reconstruction-based objectives such as link prediction, and assume that the resulting representations can be aligned with downstream tasks through a separate unification step such as class prototypes. We demonstrate through synthetic and real-world experiments that this procedure, while simple and intuitive, has limitations that directly affect downstream task performance. To address these limitations, Mochi pre-trains on few-shot episodes that mirror the downstream evaluation protocol, aligning the training objective with inference rather than relying on a post-hoc unification step. We show that Mochi, along with its more powerful variant Mochi++, achieves competitive or superior performance compared to existing Graph Foundation Models across 25 real-world graph datasets spanning node classification, link prediction, and graph classification, while requiring 8$\sim$27 times less training time than the strongest baseline.
• Abstract（参考訳）: メタラーニングベースのトレーニングフレームワークを採用することにより,タスク統合とトレーニング効率に対処するグラフ基礎モデルである望(もち)を提案する。 以前のモデルでは、リンク予測のような再構成に基づく目標を事前訓練し、結果の表現が、クラスプロトタイプのような独立した統一ステップによって下流タスクと整合できると仮定した。 本手法は, 単純かつ直感的ではあるが, 下流タスク性能に直接的な影響を及ぼす限界があることを実証する。 これらの制限に対処するため、望氏は、ダウンストリーム評価プロトコルを反映した数発のエピソードを事前トレーニングし、トレーニング目標をポストホック統合ステップに頼るのではなく、推論と整合させる。 ノードの分類、リンクの予測、グラフの分類にまたがる25の現実のグラフデータセットに対する既存のグラフ基礎モデルと比較すると、より強力な変形であるmochi++ と並んで、既存のGraph Foundation Model と比較して、競争力や優れたパフォーマンスを実現し、最強のベースラインよりも8$\sim$27 のトレーニング時間を必要としている。

関連論文リスト

• Self-Pro: A Self-Prompt and Tuning Framework for Graph Neural Networks [10.794305560114903]
  Self-Promptは、モデルとデータ自体に基づいたグラフのプロンプトフレームワークである。 非対称なグラフコントラスト学習を導入し、不均質に対処し、プリテキストと下流タスクの目的を整合させる。 11のベンチマークデータセットに対する広範な実験を行い、その優位性を実証する。
  論文  参考訳（メタデータ） (2023-10-16T12:58:04Z)
• SGL-PT: A Strong Graph Learner with Graph Prompt Tuning [36.650472660276]
  そこで我々は,SGL-PTという新しいフレームワークを提案し,学習戦略であるPre-train, Prompt, Predict'に従う。 具体的には、生成的かつコントラスト的な自己教師付きグラフ学習の相補的メリットを得られるSGLと呼ばれる、強力で普遍的な事前学習タスクを提起する。 また, グラフ分類タスクを目標として, 事前学習と微調整を統一し, 従来のテキストタスクと同様の形式で下流タスクを再構成する, 新たな動詞フリープロンプト関数を設計する。
  論文  参考訳（メタデータ） (2023-02-24T04:31:18Z)
• Self-Distillation for Further Pre-training of Transformers [83.84227016847096]
  我々は、さらなる事前学習段階の正則化として自己蒸留を提案する。 画像およびテキスト分類タスクのための様々なベンチマークデータセットにおける自己蒸留の有効性を実証的に検証する。
  論文  参考訳（メタデータ） (2022-09-30T02:25:12Z)
• Similarity-aware Positive Instance Sampling for Graph Contrastive Pre-training [82.68805025636165]
  トレーニングセット内の既存グラフから直接正のグラフインスタンスを選択することを提案する。 私たちの選択は、特定のドメイン固有のペアワイズ類似度測定に基づいています。 さらに,ノードを動的にマスキングしてグラフ上に均等に分配する適応ノードレベルの事前学習手法を開発した。
  論文  参考訳（メタデータ） (2022-06-23T20:12:51Z)
• Optimal Propagation for Graph Neural Networks [51.08426265813481]
  最適グラフ構造を学習するための二段階最適化手法を提案する。 また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
  論文  参考訳（メタデータ） (2022-05-06T03:37:00Z)
• Neural Graph Matching for Pre-training Graph Neural Networks [72.32801428070749]
  グラフニューラルネットワーク(GNN)は、構造データのモデリングにおいて強力な能力を示している。 GMPTと呼ばれる新しいグラフマッチングベースのGNN事前学習フレームワークを提案する。 提案手法は,完全自己指導型プレトレーニングと粗粒型プレトレーニングに適用できる。
  論文  参考訳（メタデータ） (2022-03-03T09:53:53Z)
• Improving Semantic Segmentation via Self-Training [75.07114899941095]
  半教師付きアプローチ,特に自己学習パラダイムを用いて,最先端の成果を得ることができることを示す。 まず、ラベル付きデータに基づいて教師モデルを訓練し、次にラベルなしデータの大規模なセット上で擬似ラベルを生成する。 私たちの堅牢なトレーニングフレームワークは、人名と擬似ラベルを共同で消化し、Cityscapes、CamVid、KITTIデータセット上で最高のパフォーマンスを達成することができます。
  論文  参考訳（メタデータ） (2020-04-30T17:09:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。