論文の概要: Efficient and Scalable Multi-View Masked Autoencoder for Heterogeneous Graph Self-Supervised Learning

• arxiv url: http://arxiv.org/abs/2611.00511v1
• Date: Sat, 31 Oct 2026 01:02:25 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 20:01:19.057467
• Title: Efficient and Scalable Multi-View Masked Autoencoder for Heterogeneous Graph Self-Supervised Learning
• Title（参考訳）: 不均一グラフ自己監督学習のための効率よくスケーラブルなマルチビューマスクオートエンコーダ
• Abstract要約: MVMAE(Multi-View Masked Auto Auto)は、異種グラフの自己教師型学習のための新しいフレームワークである。 MVMAEは、メタパスビュー全体をランダムにマスクし、モデルをガイドして、残りのビューから表現を再構築する。 MVMAEは、最先端のセルフ教師付きデータセットや半教師付きデータセットよりも一貫して優れています。
• 参考スコア（独自算出の注目度）: 29.164876092162118
• License:
• Abstract: Recent years have witnessed the flourishing of self-supervised learning on heterogeneous graphs, e.g., masked autoencoder-based methods. However, existing methods suffer from three issues, including the prohibitive computational cost of constructing meta-path-induced subgraphs, the limitations of uniform random masking, and the suboptimal objective of reconstructing potentially noisy or uninformative original node features. To address these issues, we propose the Multi-View Masked Auto Encoder (MVMAE), a novel, efficient, and scalable framework for heterogeneous graph self-supervised learning. First, MVMAE introduces a novel multi-view mask-then-reconstruct strategy. Instead of masking individual nodes or features, MVMAE randomly masks entire meta-path views and guides the model to reconstruct their representations from remaining visible views. This approach shifts the learning objective to a high-level and semantic task, providing a more robust and informative supervisory signal that is effective even when initial node features are absent or flawed. Then, to handle the computational demands, MVMAE employs an efficient offline aggregation mechanism that pre-computes and reuses representations for each meta-path view, completely avoiding the costly construction of meta-path-induced subgraphs. Next, to fuse the representations of each view, MVMAE uses a Transformer-based multi-view fusion encoder to capture the complex correlations between views, and a deliberately simple MLP decoder to compel the encoder to learn highly expressive and robust node representations. Extensive experiments on six real-world datasets, including three large-scale graphs, demonstrate that MVMAE consistently outperforms state-of-the-art self-supervised and even semi-supervised baselines, confirming its superior effectiveness and scalability. Our source code is released at https://github.com/hcmdgh/MVMAE.
• Abstract（参考訳）: 近年,異種グラフの自己教師型学習,例えばマスク付き自己エンコーダに基づく手法が盛んに行われている。 しかし、既存の手法では、メタパスによるサブグラフ構築の禁止的な計算コスト、均一なランダムマスキングの限界、潜在的なノイズや非形式的な元のノードの特徴を再構築する最適以下の目的などの3つの問題に悩まされている。 これらの問題に対処するために,多視点マスケッドオートエンコーダ (MVMAE) を提案する。 まず、MVMAEは、新しいマルチビューマスク-then-reconstruct戦略を導入する。 個々のノードや機能をマスキングする代わりに、MVMAEはランダムにメタパスビュー全体をマスキングし、残りの可視ビューからモデルを再構築する。 このアプローチは学習目標を高レベルかつセマンティックなタスクにシフトし、初期ノードの特徴が欠如したり欠陥があったりしても有効である、より堅牢で情報的な監視信号を提供する。 次に,MVMAEでは,各メタパスビューの表現を事前計算・再利用する効率的なオフラインアグリゲーション機構を採用し,メタパスによるサブグラフの費用対効果を完全に回避する。 次に、各ビューの表現を融合させるために、MVMAEはTransformerベースのマルチビューフュージョンエンコーダを使用してビュー間の複雑な相関をキャプチャし、意図的にシンプルなMLPデコーダを使用してエンコーダを強制し、高度に表現的で堅牢なノード表現を学習する。 3つの大規模グラフを含む6つの実世界のデータセットに対する大規模な実験は、MVMAEが最先端の自己教師付きベースラインや半教師付きベースラインを一貫して上回っており、その優れた効率性とスケーラビリティを確認していることを示している。 ソースコードはhttps://github.com/hcmdgh/MVMAE.comで公開されています。

関連論文リスト

• ViewMask-1-to-3: Multi-View Consistent Image Generation via Multimodal Diffusion Models [70.28556518166037]
  多視点画像生成に離散拡散モデルを適用する先駆的アプローチであるViewMask-1-to-3を導入する。 マスク付きトークン予測により言語と視覚を統一することにより,多視点の進行的生成を可能にする。 提案手法は,PSNR,SSIM,LPIPSを用いて,GSOおよび3D-FUTUREデータセットの平均値にランク付けする。
  論文  参考訳（メタデータ） (2025-12-16T05:15:07Z)
• Unifying and Enhancing Graph Transformers via a Hierarchical Mask Framework [18.725415922303632]
  本稿では,モデルアーキテクチャとアテンションマスク構築の等価性を明らかにする統一階層型マスクフレームワークを提案する。 このフレームワークは、注意深く設計された注意マスクを通して多様なインタラクションをキャプチャすることで、一貫したモデリングパラダイムを実現する。 マルチレベルマスキングとデュアルアテンション計算を備えたM3Dphormerについて述べる。
  論文  参考訳（メタデータ） (2025-10-21T17:22:32Z)
• Harmonizing Visual Representations for Unified Multimodal Understanding and Generation [53.01486796503091]
  我々は,共有MARエンコーダによる理解と生成タスクを調和させる統合自己回帰フレームワークであるemphHarmonを提案する。 HarmonはGenEval、MJHQ30K、WISEベンチマークで最先端の画像生成結果を達成する。
  論文  参考訳（メタデータ） (2025-03-27T20:50:38Z)
• UGMAE: A Unified Framework for Graph Masked Autoencoders [67.75493040186859]
  グラフマスク付きオートエンコーダのための統一フレームワークであるUGMAEを提案する。 まず,ノードの特異性を考慮した適応型特徴マスク生成器を開発した。 次に,階層型構造再構成と特徴再構成を併用し,総合的なグラフ情報を取得する。
  論文  参考訳（メタデータ） (2024-02-12T19:39:26Z)
• GD-MAE: Generative Decoder for MAE Pre-training on LiDAR Point Clouds [72.60362979456035]
  Masked Autoencoders (MAE)は、大規模な3Dポイントクラウドでの探索が難しい。 我々は,周囲のコンテキストを自動的にマージするためのtextbfGenerative textbfDecoder for MAE (GD-MAE)を提案する。 提案手法の有効性を, KITTI と ONCE の2つの大規模ベンチマークで実証した。
  論文  参考訳（メタデータ） (2022-12-06T14:32:55Z)
• Heterogeneous Graph Masked Autoencoders [27.312282694217462]
  異種グラフ上でのSSL生成問題について検討し,これらの課題に対処するためにHGMAEを提案する。 HGMAEは、2つの革新的なマスキング技術と3つのユニークなトレーニング戦略を通じて、包括的なグラフ情報をキャプチャする。 特にメタパスマスキングと動的マスキングを用いた適応属性マスキングを開発し、不均一グラフの有効かつ安定した学習を可能にする。
  論文  参考訳（メタデータ） (2022-08-21T20:33:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。