論文の概要: MAEM: Mitigating Recency Bias via a Replay-Free, Capacity-Controlled Dynamic Mixture of Experts for Class-Incremental Graph Learning
- arxiv url: http://arxiv.org/abs/2610.20238v1
- Date: Wed, 14 Oct 2026 14:16:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.181355
- Title: MAEM: Mitigating Recency Bias via a Replay-Free, Capacity-Controlled Dynamic Mixture of Experts for Class-Incremental Graph Learning
- Title(参考訳): MAEM: クラス増分グラフ学習のためのリプレイフリー, キャパシティ制御されたエキスパートの動的混合による遅延バイアスの緩和
- Abstract要約: クラス増分グラフ学習では、予測はしばしば最近学習されたクラスに支配され、深刻な傾向バイアスを引き起こす。
クラス増分グラフ学習のためのキャパシティ制御型動的ミックス・オブ・エキスパートフレームワークであるMAEMを提案する。
4つのクラスインクリメンタルグラフベンチマークでは、MAEMの遅延バイアスが強い連続グラフ学習ベースラインを上回っている。
- 参考スコア(独自算出の注目度): 24.771466660120222
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) excel on graph-structured data but suffer catastrophic forgetting when classes arrive sequentially. In class-incremental graph learning, predictions are often dominated by recently learned classes, causing severe recency bias. Dynamic expansion can isolate knowledge across sessions, but many methods assume task-incremental settings and require task identities at test time to select branches or heads---information unavailable in class-incremental learning. Learnable routers offer an alternative, yet continual fine-tuning the router on new data can bias routing toward recent components. We propose MAEM, a replay-free, capacity-controlled dynamic mixture-of-experts framework for class-incremental graph learning. MAEM builds representations with Simplified Graph Convolution (SGC) and trains a dedicated expert for each new session, then freezes it to protect prior knowledge. For routing without task IDs or a shared trainable router, each expert uses a masked autoencoder (MAE); test nodes are assigned to the expert with the lowest reconstruction error, reducing routing-level recency bias. When the expert pool reaches a fixed capacity, MAEM merges the least-used experts via Git Re-Basin alignment and further distills them into a fused expert using topology-aware pseudo data synthesized from MAE distributions (DeepInversion-style), without storing or revisiting historical graph data. On four class-incremental graph benchmarks, MAEM mitigates recency bias, outperforms strong continual graph learning baselines, and keeps model capacity bounded under strict replay-free learning.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)はグラフ構造化データに排他的だが、クラスが順次到着すると悲惨な忘れがちである。
クラス増分グラフ学習では、予測はしばしば最近学習されたクラスに支配され、深刻な傾向バイアスを引き起こす。
動的拡張はセッション間で知識を分離することができるが、多くのメソッドはタスクインクリメンタルな設定を前提としており、テスト時にクラスインクリメンタルな学習では利用できない、ブランチやヘッドを選択するためにタスクアイデンティティを必要とする。
学習可能なルータは、新しいデータに対してルータを継続的に微調整する代替手段を提供する。
クラス増分グラフ学習のためのリプレイフリーでキャパシティ制御された動的ミックス・オブ・エキスパートフレームワークであるMAEMを提案する。
MAEMはSGC(Simplified Graph Convolution)で表現を構築し、新しいセッションごとに専用の専門家を訓練し、それを凍結して事前の知識を保護する。
タスクIDや共有トレーニング可能なルータを使わずにルーティングするために、各専門家はマスク付きオートエンコーダ(MAE)を使用しており、テストノードは最小の再構成エラーで専門家に割り当てられ、ルーティングレベルの遅延バイアスを低減している。
エキスパートプールが一定のキャパシティに達すると、MAEMはGit Re-Basinアライメントを通じて、未使用のエキスパートをマージし、MAEディストリビューション(DeepInversionスタイル)から合成されたトポロジを意識した擬似データを使用して、過去のグラフデータを保存したり、再検討したりすることなく、それらを融合する。
4つのクラスインクリメンタルグラフベンチマークでは、MAEMは遅延バイアスを緩和し、強い連続グラフ学習ベースラインを上回り、厳密なリプレイフリー学習の下でモデルキャパシティを拘束する。
関連論文リスト
- FedOGL: Combating Catastrophic Forgetting in Federated Open-World Multimodal Graph Learning [26.774513573509108]
フェデレートされたグラフ学習は、生のグラフ情報を共有せずに、分散化されたグラフデータに対する協調的なトレーニングを可能にする。
クライアントは、過去のカテゴリを保持しながら、プライベートなマルチモーダルグラフストリームから新しいクラスを学習し、現在の既知のクラス空間の外でサンプルを拒否する必要がある。
セマンティック・構造記憶保存フレームワークである textbfFedOGL を提案する。
論文 参考訳(メタデータ) (2026-07-30T04:24:41Z) - AL-GNN: Privacy-Preserving and Replay-Free Continual Graph Learning via Analytic Learning [8.911446190681882]
連続グラフ学習(CGL)は、グラフニューラルネットワークが、以前取得した知識を忘れずに、グラフ構造化データのストリームから漸進的に学習できるようにすることを目的としている。
本稿では,バッファのバックプロパゲーションや再生を不要とする連続グラフ学習のための新しいフレームワークであるAL GNNを提案する。
論文 参考訳(メタデータ) (2025-12-20T09:55:36Z) - Dynamic Mixture-of-Experts for Incremental Graph Learning [13.517949310087111]
インクリメンタル学習のための動的ミックス・オブ・エキスパート(DyMoE)アプローチを提案する。
DyMoEは、入ってくるデータブロックをモデリングする専門家ネットワークを追加する。
本モデルは,クラスインクリメンタル学習における最良ベースラインと比較して,相対的精度が4.92%向上した。
論文 参考訳(メタデータ) (2025-08-13T17:41:19Z) - Enhancing Consistency and Mitigating Bias: A Data Replay Approach for Incremental Learning [93.90047628101155]
ディープラーニングシステムは、一連のタスクから学ぶとき、破滅的な忘れがちだ。
これを解決するために、新しいタスク学習中に過去のタスクからのデータを再生する手法を提案する。
しかし、メモリの制約やデータプライバシーの問題により、実際には期待できない。
論文 参考訳(メタデータ) (2024-01-12T12:51:12Z) - GiGaMAE: Generalizable Graph Masked Autoencoder via Collaborative Latent
Space Reconstruction [76.35904458027694]
マスク付きオートエンコーダモデルは、グラフデータに対する優れた一般化能力に欠ける。
本稿では,GiGaMAEと呼ばれる新しいグラフマスマスキングオートエンコーダフレームワークを提案する。
私たちの結果は、グラフ構造化データに基づく基礎モデルの設計に光を当てます。
論文 参考訳(メタデータ) (2023-08-18T16:30:51Z) - Adapting to Change: Robust Counterfactual Explanations in Dynamic Data
Landscapes [9.943459106509687]
我々は、新しい半教師付きグラフカウンターファクトExplainer(GCE)方法論、ダイナミックGRAphカウンタファクトExplainer(DyGRACE)を紹介する。
これは、データ配布に関する初期知識を活用して、有効な偽物を探すと同時に、後続の時間ステップにおいて、潜在的に時代遅れな決定関数からの情報を使用することを避けます。
DyGRACEは非常に効果的でドリフト検出器として機能し、反復間の再構成誤差の違いに基づいて分布ドリフトを識別する。
論文 参考訳(メタデータ) (2023-08-04T14:41:03Z) - SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。
まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。
次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
論文 参考訳(メタデータ) (2023-08-03T07:00:04Z) - Reinforced Continual Learning for Graphs [18.64268861430314]
本稿では,アーキテクチャベースとメモリベースのアプローチを組み合わせたグラフ連続学習戦略を提案する。
タスク・インクリメンタル・ラーニングとクラス・インクリメンタル・ラーニング・セッティングの両方において,いくつかのグラフ連続学習ベンチマーク問題を用いて数値検証を行った。
論文 参考訳(メタデータ) (2022-09-04T07:49:59Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳(メタデータ) (2022-01-17T11:57:29Z) - Bag of Tricks for Training Deeper Graph Neural Networks: A Comprehensive
Benchmark Study [100.27567794045045]
ディープグラフニューラルネットワーク(GNN)のトレーニングは、非常に難しい。
我々は、深層GNNの「トリック」を評価するための最初の公正かつ再現可能なベンチマークを示す。
論文 参考訳(メタデータ) (2021-08-24T05:00:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。