論文の概要: Why Does Graph Learning Fail to Fully Benefit from a Text Teacher?
- arxiv url: http://arxiv.org/abs/2608.25741v1
- Date: Wed, 26 Aug 2026 12:51:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.829689
- Title: Why Does Graph Learning Fail to Fully Benefit from a Text Teacher?
- Title(参考訳): グラフ学習が教科書教師の利益を損なうのはなぜか?
- Abstract要約: グラフニューラルネットワーク(GNN)は、複雑な相互作用やエンティティ間の関係を表現するために広く使われている。
本稿では,自己教師付き手法と交互最適化手法を組み合わせたマルチモーダルモデルについて検討する。
期待されたにもかかわらず、組み合わせたモデルは予測性能を十分に改善しなかった。
- 参考スコア(独自算出の注目度): 12.788080568927668
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph neural networks (GNNs) are widely used to represent complex interactions and relationships among entities. We investigate a multimodal model that combines two complementary ideas: a self-supervised method that enables a GNN encoder pretrained on one dataset to operate directly on another dataset with a different node-feature dimensionality, without rebuilding the model or realigning the data; and an alternating optimization method that updates a language-model module in an E-step and a GNN module in an M-step, rather than jointly training a large language model and a GNN end to end on a large graph. Despite expectations, the combined model did not sufficiently improve predictive performance. We identify six factors: (1) an external anchor in the E-step has a strength-safety trade-off: a weak anchor has little effect, whereas an overly strong anchor can damage the graph representation; (2) the knowledge of the E-step teacher is not injected directly into the GCN embedding Z; (3) the representation space constructed in the M-step is not optimized for the same objective as the E-step teacher space, resulting in a compromise representation for target classification; (4) GCN propagation averages a node's own textual information with information from its neighbors; (5) cosine alignment does not guarantee axes that are discriminative for classification, so stronger geometric alignment with the E-step text anchor need not sufficiently improve the target decision boundary or classification performance; and (6) the force that preserves the source-side self-supervised geometry in the M-step conflicts with the force that moves the representation toward the E-step teacher. We support these observations through a staged set of experiments that varies the influence of the E-step.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、複雑な相互作用やエンティティ間の関係を表現するために広く使われている。
1つのデータセットで事前訓練されたGNNエンコーダが、モデルを再構築したり、データを再設計したりすることなく、別のノードの次元で他のデータセット上で直接操作できる自己教師付き手法と、大きな言語モデルとGNNの終端を大きなグラフ上で共同でトレーニングするのではなく、Mステップで言語モデルモジュールとGNNモジュールを更新する交互最適化手法とを組み合わせたマルチモーダルモデルについて検討する。
期待されたにもかかわらず、組み合わせたモデルは予測性能を十分に改善しなかった。
1)Eステップの外部アンカーは、強弱なアンカーがグラフ表現を損なうことが少なく、(2)Eステップの教師の知識は、GCN埋め込みZに直接注入されない、(3)Mステップで構築された表現空間は、Eステップの教師空間と同じ目的のために最適化されず、目標分類の妥協表現をもたらす、(4)GCNの伝搬は、そのノードのテキスト情報を隣人からの情報で平均化する、(5)コサインアライメントは、分類に識別可能な軸を保証しないため、Eステップのテキストアンカーとの強い整合性は、目標決定や性能を十分に改善する必要がなく、(6)Mステップの教師がMステップで構築した表現空間は、教師の指示と衝突する。
我々はこれらの観測を、Eステップの影響を変動させる一連の実験を通して支援する。
関連論文リスト
- MUGEN: Generating Unlearnable Graph Examples for Multiple Learning Tasks [15.351174519441436]
我々はMUGENを導入し、すべての有効タスクを共同で保護する非学習可能なグラフ例を生成するための最初のフレームワークについて紹介する。
我々は,タスク予測とクラスワイズ分離性を活用して,GNNバックボーン間の非学習性と転送を強化し,タスクを有効にするタスクアライン・セパビリティ・オブジェクト(TASO)を考案する。
論文 参考訳(メタデータ) (2026-09-01T04:18:01Z) - Enhancing Imbalanced Node Classification via Curriculum-Guided Feature Learning and Three-Stage Attention Network [5.709363708126687]
グラフニューラルネットワーク(GNN)における不均衡ノード分類は、モデルが不公平に学習し、あまり一般的でないクラスで性能を悪くする原因となる。
カリキュラム型特徴学習と3段階注意ネットワーク(CL3AN-GNN)を提案する。
社会的,生物学的,引用ネットワークにまたがる8つのOpen Graph Benchmarkデータセット上でCL3AN-GNNを評価した。
論文 参考訳(メタデータ) (2026-02-03T18:10:40Z) - Semi-supervised Node Importance Estimation with Informative Distribution Modeling for Uncertainty Regularization [13.745026710984469]
異種グラフにおける未ラベルデータの学習品質向上を目的とした,最初の半教師付きノード重要度推定フレームワークであるEASINGを提案する。
従来のアプローチとは異なり、EASingはモデル予測の信頼性を反映する不確実性を明示的に捉えている。
EASINGはラベル付きおよび擬似ラベル付きデータに基づいて、ノードの不確かさの正則化を伴う効果的な半教師付きヘテロ代数学学習を開発する。
論文 参考訳(メタデータ) (2025-03-26T16:27:06Z) - GraphBridge: Towards Arbitrary Transfer Learning in GNNs [65.01790632978962]
GraphBridgeは、GNNの異なるタスクやドメイン間での知識伝達を可能にする新しいフレームワークである。
予測ヘッドと入力を出力層に接続するブリッジングネットワークを備えた、事前訓練されたGNNの拡張を可能にする。
これらのシナリオを代表する16以上のデータセットで実施された実証検証では、タスクとドメインに依存しないトランスファー学習のためのフレームワークの能力が確認されている。
論文 参考訳(メタデータ) (2025-02-26T15:57:51Z) - CombAlign: Enhancing Model Expressiveness in Unsupervised Graph Alignment [19.502687203792547]
教師なしグラフアライメント(英語版)は、グラフ構造とノード特徴のみを活用することにより、一対のグラフ間のノード対応を見つける。
最近の研究の1つのカテゴリは、まずノード表現を計算し、次に最も大きな埋め込みベースの類似性を持つノードとマッチングする。
他のカテゴリは、Gromov-Wasserstein学習による最適輸送(OT)に問題を還元する。
一致したノード対と一致しないノード対を2つのグラフで区別する際のモデルの識別力について検討する。
理論解析により,より強い表現力を持つCombAlignというハイブリッドアプローチを提唱した。
論文 参考訳(メタデータ) (2024-06-19T04:57:35Z) - Graph Mining under Data scarcity [6.229055041065048]
汎用グラフニューラルネットワーク(GNN)上に適用可能な不確実性推定フレームワークを提案する。
エンド・ツー・エンドの設定で、$n$-way、$k$-shotという古典的なエピソード学習パラダイムの下でこれらのモデルをトレーニングします。
提案手法は,GNNを用いたグラフ上のFew-shotノード分類における不確実性推定器の有効性を示すベースラインよりも優れる。
論文 参考訳(メタデータ) (2024-06-07T10:50:03Z) - E2GNN: Efficient Graph Neural Network Ensembles for Semi-Supervised Classification [30.55931541782854]
本研究では、グラフニューラルネットワーク(GNN)のアンサンブル学習を、人気のある半教師付き環境下で研究する。
ラベル付きノードとラベルなしノードの両方を活用することで,複数のGNNを学習可能な方法で組み立てる,効率的なアンサンブル学習者を提案する。
さまざまなGNNバックボーンと8つのベンチマークデータセットにまたがる、トランスダクティブとインダクティブ両方の設定に関する包括的な実験は、E2GNNの優位性を実証している。
論文 参考訳(メタデータ) (2024-05-06T12:11:46Z) - Graph Transformer GANs with Graph Masked Modeling for Architectural
Layout Generation [153.92387500677023]
本稿では,グラフノード関係を効果的に学習するために,GTGAN(Graph Transformer Generative Adversarial Network)を提案する。
提案したグラフ変換器エンコーダは、局所的およびグローバルな相互作用をモデル化するために、Transformer内のグラフ畳み込みと自己アテンションを組み合わせる。
また,グラフ表現学習のための自己指導型事前学習手法を提案する。
論文 参考訳(メタデータ) (2024-01-15T14:36:38Z) - Label Deconvolution for Node Representation Learning on Large-scale Attributed Graphs against Learning Bias [72.33336385797944]
本稿では,学習バイアスを軽減するため,ラベルの効率的な正規化手法であるラベルデコンボリューション(LD)を提案する。
LDはOpen Graph Benchmarkデータセット上で最先端の手法よりも大幅に優れていることを示す。
論文 参考訳(メタデータ) (2023-09-26T13:09:43Z) - GIF: A General Graph Unlearning Strategy via Influence Function [63.52038638220563]
Graph Influence Function (GIF)は、削除されたデータにおける$epsilon$-massの摂動に応答してパラメータの変化を効率的に正確に推定できる、モデルに依存しない未学習の手法である。
我々は,4つの代表的GNNモデルと3つのベンチマークデータセットについて広範な実験を行い,未学習の有効性,モデルの有用性,未学習効率の観点からGIFの優位性を正当化する。
論文 参考訳(メタデータ) (2023-04-06T03:02:54Z) - You Only Transfer What You Share: Intersection-Induced Graph Transfer
Learning for Link Prediction [79.15394378571132]
従来見過ごされていた現象を調査し、多くの場合、元のグラフに対して密に連結された補グラフを見つけることができる。
より密度の高いグラフは、選択的で有意義な知識を伝達するための自然なブリッジを提供する元のグラフとノードを共有することができる。
この設定をグラフインターセクション誘導トランスファーラーニング(GITL)とみなし,eコマースや学術共同オーサシップ予測の実践的応用に動機づけられた。
論文 参考訳(メタデータ) (2023-02-27T22:56:06Z) - Mixed Graph Contrastive Network for Semi-Supervised Node Classification [63.924129159538076]
我々はMixed Graph Contrastive Network(MGCN)と呼ばれる新しいグラフコントラスト学習手法を提案する。
本研究では,非摂動増強戦略と相関還元機構により,潜伏埋め込みの識別能力を向上する。
これら2つの設定を組み合わせることで、識別表現学習のために、豊富なノードと稀に価値あるラベル付きノードの両方から、豊富な監視情報を抽出する。
論文 参考訳(メタデータ) (2022-06-06T14:26:34Z) - MGAE: Masked Autoencoders for Self-Supervised Learning on Graphs [55.66953093401889]
Masked Graph Autoencoder (MGAE) フレームワークは、グラフ構造データの効果的な学習を行う。
自己指導型学習から洞察を得て、私たちはランダムに大量のエッジを隠蔽し、トレーニング中に欠落したエッジを再構築しようとします。
論文 参考訳(メタデータ) (2022-01-07T16:48:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。