論文の概要: LION: A Clifford Neural Paradigm for Multimodal-Attributed Graph Learning
- arxiv url: http://arxiv.org/abs/2601.21453v1
- Date: Thu, 29 Jan 2026 09:30:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-30 16:22:49.69944
- Title: LION: A Clifford Neural Paradigm for Multimodal-Attributed Graph Learning
- Title(参考訳): LION: マルチモーダル分散グラフ学習のためのClifford Neural Paradigm
- Authors: Xunkai Li, Zhengyu Wu, Zekai Chen, Henan Sun, Daohan Su, Guang Zeng, Hongchao Qin, Rong-Hua Li, Guoren Wang,
- Abstract要約: マルチモーダル分布グラフにおけるアライメント・テン・フュージョンを実装するために,LIONを提案する。
まず、クリフォード代数を基底とするモジュラリティ対応幾何多様体を構築する。
この幾何学的に誘導される高次グラフの伝播は、モダリティの相互作用を効率的に達成し、モダリティのアライメントを容易にする。
- 参考スコア(独自算出の注目度): 36.90213853456115
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Recently, the rapid advancement of multimodal domains has driven a data-centric paradigm shift in graph ML, transitioning from text-attributed to multimodal-attributed graphs. This advancement significantly enhances data representation and expands the scope of graph downstream tasks, such as modality-oriented tasks, thereby improving the practical utility of graph ML. Despite its promise, limitations exist in the current neural paradigms: (1) Neglect Context in Modality Alignment: Most existing methods adopt topology-constrained or modality-specific operators as tokenizers. These aligners inevitably neglect graph context and inhibit modality interaction, resulting in suboptimal alignment. (2) Lack of Adaptation in Modality Fusion: Most existing methods are simple adaptations for 2-modality graphs and fail to adequately exploit aligned tokens equipped with topology priors during fusion, leading to poor generalizability and performance degradation. To address the above issues, we propose LION (c\underline{LI}ff\underline{O}rd \underline{N}eural paradigm) based on the Clifford algebra and decoupled graph neural paradigm (i.e., propagation-then-aggregation) to implement alignment-then-fusion in multimodal-attributed graphs. Specifically, we first construct a modality-aware geometric manifold grounded in Clifford algebra. This geometric-induced high-order graph propagation efficiently achieves modality interaction, facilitating modality alignment. Then, based on the geometric grade properties of aligned tokens, we propose adaptive holographic aggregation. This module integrates the energy and scale of geometric grades with learnable parameters to improve modality fusion. Extensive experiments on 9 datasets demonstrate that LION significantly outperforms SOTA baselines across 3 graph and 3 modality downstream tasks.
- Abstract(参考訳): 近年,マルチモーダル領域の急速な進歩は,テキスト属性からマルチモーダル属性グラフへの移行という,データ中心のパラダイムシフトを引き起こしている。
この進歩は、データ表現を大幅に強化し、モダリティ指向タスクなどの下流タスクの範囲を広げ、グラフMLの実用性を向上させる。
1) モダリティアライメントにおけるコンテキストの無視: 既存のほとんどのメソッドでは、トークン化子としてトポロジ制約あるいはモダリティ固有の演算子を採用しています。
これらの整列器は必然的にグラフコンテキストを無視し、モダリティ相互作用を阻害し、最適以下の整列をもたらす。
2) モダリティ・フュージョンにおける適応性の欠如: 既存のほとんどの手法は2-モダリティ・グラフの単純な適応であり、融合中にトポロジーに先立って配置された整列トークンを適切に利用できないため、一般化性や性能劣化は低い。
上記の問題に対処するため、我々はクリフォード代数とデカップリンググラフニューラルパラダイム(つまり、伝搬列集約)に基づくLION(c\underline{LI}ff\underline{O}rd \underline{N}eural paradigm)を提案する。
具体的には、クリフォード代数を基底とするモジュラリティ対応幾何多様体を最初に構築する。
この幾何学的に誘導される高次グラフの伝播は、モダリティの相互作用を効率的に達成し、モダリティのアライメントを容易にする。
そこで, 整列トークンの幾何次特性に基づき, 適応ホログラフィックアグリゲーションを提案する。
このモジュールは幾何グレードのエネルギーとスケールを学習可能なパラメータと統合し、モダリティ融合を改善する。
9つのデータセットに対する大規模な実験により、LIONは3つのグラフと3つのモダリティ下流タスクでSOTAベースラインを大幅に上回っていることが示された。
関連論文リスト
- Decoupling and Damping: Structurally-Regularized Gradient Matching for Multimodal Graph Condensation [3.2987327415317895]
マルチモーダルグラフに適した新しい凝縮フレームワークSR-GMを提案する。
SR-GMは、ベースライン法と比較して精度を大幅に向上し、収束を加速する。
本研究は,資源制約環境下でのマルチモーダルグラフに基づく学習のためのスケーラブルな方法論を提供する。
論文 参考訳(メタデータ) (2025-11-25T11:50:34Z) - GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。
textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
論文 参考訳(メタデータ) (2025-10-06T08:09:15Z) - Scalable Graph Generative Modeling via Substructure Sequences [50.32639806800683]
本稿では,グラフ生成用トランスフォーマー事前学習フレームワークである生成グラフパターンマシン(G$2$PM)を紹介する。
G$2$PMはグラフインスタンス(ノード、エッジ、グラフ全体)をサブ構造のシーケンスとして表現する。
それは、一般化可能かつ伝達可能な表現を学ぶために、シーケンスに関する生成的事前学習を採用する。
論文 参考訳(メタデータ) (2025-05-22T02:16:34Z) - Boosting Graph Neural Network Expressivity with Learnable Lanczos Constraints [7.605749412696919]
グラフニューラルネットワーク(GNN)はグラフ構造化データの処理に優れるが、リンク予測タスクでは性能が劣ることが多い。
グラフラプラシア行列の固有基底に誘導された部分グラフを埋め込むことによりGNNの表現性を高める新しい手法を提案する。
本研究では,2-WLで区別できないグラフを,効率的な時間的複雑性を維持しながら識別できることを実証する。
論文 参考訳(メタデータ) (2024-08-22T12:22:00Z) - A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - Enhancing Node Representations for Real-World Complex Networks with Topological Augmentation [35.42514739566419]
TopoAugは、生データから直接仮想ハイパーエッジを構築することで、元のグラフから複合体を構築する新しいグラフ拡張手法である。
ソーシャルメディア,生物学,eコマースなど,さまざまな領域にまたがる23の新たな実世界のグラフデータセットを提供する。
我々の実証研究は、TopoAugがGNNベースラインや他のグラフ拡張手法を一貫して、著しく上回っていることを示している。
論文 参考訳(メタデータ) (2024-02-20T14:18:43Z) - SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。
まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。
次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
論文 参考訳(メタデータ) (2023-08-03T07:00:04Z) - Counterfactual Intervention Feature Transfer for Visible-Infrared Person
Re-identification [69.45543438974963]
視覚赤外人物再識別タスク(VI-ReID)におけるグラフベースの手法は,2つの問題により,悪い一般化に悩まされている。
十分に訓練された入力特徴は、グラフトポロジーの学習を弱め、推論過程において十分に一般化されない。
本稿では,これらの問題に対処するためのCIFT法を提案する。
論文 参考訳(メタデータ) (2022-08-01T16:15:31Z) - FeatureNorm: L2 Feature Normalization for Dynamic Graph Embedding [39.527059564775094]
グラフ畳み込みネットワーク(GCN)は、非ユークリッドアプリケーションドメインで広く研究され、利用されている。
本稿では,まずノード埋め込み空間における縮小特性を解析し,単純で汎用的な手法を設計する。
実世界の4つの動的グラフデータセットと競合ベースラインモデルの比較実験により,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2021-02-27T09:13:47Z) - Revisiting Graph based Collaborative Filtering: A Linear Residual Graph
Convolutional Network Approach [55.44107800525776]
グラフ畳み込みネットワーク(GCN)は、最先端のグラフベースの表現学習モデルである。
本稿では、GCNベースの協調フィルタリング(CF)ベースのレコメンダシステム(RS)について再検討する。
単純なグラフ畳み込みネットワークの理論と整合して,非線形性を取り除くことで推奨性能が向上することを示す。
本稿では,ユーザ・イテム相互作用モデリングを用いたCF用に特別に設計された残差ネットワーク構造を提案する。
論文 参考訳(メタデータ) (2020-01-28T04:41:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。