論文の概要: Graph Generation Powered with LLMs for Boosting Multivariate Time-Series Representation Learning
- arxiv url: http://arxiv.org/abs/2403.03645v2
- Date: Sat, 04 Oct 2025 02:18:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-07 16:52:58.131291
- Title: Graph Generation Powered with LLMs for Boosting Multivariate Time-Series Representation Learning
- Title（参考訳）: 多変量時系列表現学習のためのLLMを用いたグラフ生成
- Authors: Yucheng Wang, Min Wu, Ruibing Jin, Xiaoli Li, Lihua Xie, Zhenghua Chen,
- Abstract要約: グラフニューラルネットワーク(GNN)は、MSSデータ内の空間的時間的依存関係をキャプチャする強力なツールとして登場した。
既存のアプローチは、MSSグラフ生成のためにデータ自体にのみ依存することが多く、小さなトレーニングデータセットのバイアスに弱いままである。
本稿では,Large Language Models (LLMs) に符号化された広範な普遍的知識を活用して,MSSグラフ生成のバイアスを低減する新しいフレームワークK-Linkを提案する。
- 参考スコア（独自算出の注目度）: 42.90320678702607
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sourced from multiple sensors and organized chronologically, Multivariate Time-Series (MTS) data involves crucial spatial-temporal dependencies. To capture these dependencies, Graph Neural Networks (GNNs) have emerged as powerful tools. As explicit graphs are not inherent to MTS data, graph generation becomes a critical first step in adapting GNNs to this domain. However, existing approaches often rely solely on the data itself for MTS graph generation, leaving them vulnerable to biases from small training datasets. This limitation hampers their ability to construct effective graphs, undermining the accurate modeling of underlying dependencies in MTS data and reducing GNN performance in this field. To address this challenge, we propose a novel framework, K-Link, leveraging the extensive universal knowledge encoded in Large Language Models (LLMs) to reduce biases for powered MTS graph generation. To harness the knowledge within LLMs, such as physical principles, we design and extract a \textit{Knowledge-Link graph} that captures universal knowledge of sensors and their linkage. To empower MTS graph generation with the knowledge-link graph, we further introduce a graph alignment module that transfers universal knowledge from the knowledge-link graph to the graph generated from MTS data. This enhances the MTS graph quality, ensuring effective representation learning for MTS data. Extensive experiments demonstrate the efficacy of K-Link for superior performance on various MTS tasks.
- Abstract（参考訳）: 複数のセンサと時系列に整理された時系列データから得られる多変量時系列(MTS)データは、重要な空間的時間的依存関係を含む。
これらの依存関係をキャプチャするために、グラフニューラルネットワーク(GNN)が強力なツールとして登場した。
明示グラフはMSSデータに固有のものではないため、グラフ生成はこの領域にGNNを適用するための重要な第一歩となる。
しかし、既存のアプローチは、MSSグラフ生成のためにデータ自体にのみ依存することが多く、小さなトレーニングデータセットのバイアスに弱いままである。
この制限により、MCSデータの基盤となる依存関係の正確なモデリングが損なわれ、この分野におけるGNNの性能が低下する。
そこで本稿では,大規模言語モデル(LLM)に符号化された広範な普遍的知識を活用して,MSSグラフ生成のバイアスを低減する新しいフレームワークK-Linkを提案する。
物理原理などのLLM内の知識を活用するために,センサの普遍的な知識とそれらのリンクをキャプチャする‘textit{Knowledge-Link graph’を設計し,抽出する。
さらに,知識リンクグラフからMTSデータから生成されたグラフに普遍的な知識を伝達するグラフアライメントモジュールを導入する。
これにより、MTSグラフの品質が向上し、MTSデータに対する効果的な表現学習が保証される。
広範囲な実験により、様々なMTSタスクにおいて優れた性能を示すためにK-Linkの有効性が実証された。
関連論文リスト
- Quantizing Text-attributed Graphs for Semantic-Structural Integration [6.721504414917793]
テキスト分散グラフ(TAG)は、様々な領域にわたる複雑な関係をモデル化するための強力な表現として登場した。
大規模言語モデル(LLM)の台頭に伴い、グラフ学習に彼らの能力を活用することへの関心が高まっている。
凍結したコードブックを用いて,グラフ構造情報を離散トークンに直接量子化する,新たな自己教師型フレームワークSTAGを提案する。
論文 参考訳（メタデータ） (2025-07-20T09:18:02Z) - Scalability Matters: Overcoming Challenges in InstructGLM with Similarity-Degree-Based Sampling [1.2805157669888096]
提案するSDM-InstructGLMは,GNNに依存することなく,拡張性と効率を向上する命令調整グラフ言語モデル(InstructGLM)フレームワークである。
本手法では,ノード間類似度と次数集中度に基づいてグラフ情報を選択的にサンプリングし,符号化する,類似度に基づくバイアス付きランダムウォーク機構を提案する。
本結果は,LLMのみのグラフ処理の実現可能性を示し,命令ベースの微調整によって最適化されたスケーラブルかつ解釈可能なグラフ言語モデル(GLM)を実現する。
論文 参考訳（メタデータ） (2025-05-02T06:08:21Z) - Task-Oriented Communication for Graph Data: A Graph Information Bottleneck Approach [12.451324619122405]
本稿では,コミュニケーションのオーバーヘッドを低減しつつ,鍵情報を保持するタスク中心のより小さなサブグラフを抽出する手法を提案する。
提案手法では,グラフニューラルネットワーク(GNN)とグラフ情報ボトルネック(GIB)の原理を用いて,伝達に適したコンパクトで情報的,堅牢なグラフ表現を生成する。
論文 参考訳（メタデータ） (2024-09-04T14:01:56Z) - Multitask Active Learning for Graph Anomaly Detection [48.690169078479116]
MultItask acTIve Graph Anomaly Detection framework,すなわちMITIGATEを提案する。
ノード分類タスクを結合することにより、MITIGATEは既知の異常を伴わずに配布外ノードを検出する能力を得る。
4つのデータセットに関する実証的研究は、MITIGATEが異常検出のための最先端の手法を著しく上回っていることを示している。
論文 参考訳（メタデータ） (2024-01-24T03:43:45Z) - Efficient End-to-end Language Model Fine-tuning on Graphs [21.23522552579571]
Text-Attributed Graphs (TAGs) からの学習は、その幅広い現実世界のアプリケーションのために大きな注目を集めている。
我々は,TAG上での言語モデルのエンドツーエンドな微調整のための,新規かつ効率的なアプローチであるLEAdingを紹介する。
提案手法は,Ogbn-arxiv のリーダーボード上で,最先端のSOTA(State-of-the-art)を達成し,優れた性能を示す。
論文 参考訳（メタデータ） (2023-12-07T22:35:16Z) - Learning Strong Graph Neural Networks with Weak Information [64.64996100343602]
我々は、弱い情報(GLWI)を用いたグラフ学習問題に対する原則的アプローチを開発する。
非完全構造を持つ入力グラフ上で長距離情報伝搬を行うデュアルチャネルGNNフレームワークであるD$2$PTを提案するが、グローバルな意味的類似性を符号化するグローバルグラフも提案する。
論文 参考訳（メタデータ） (2023-05-29T04:51:09Z) - Affinity-Aware Graph Networks [9.888383815189176]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを学ぶための強力なテクニックとして登場した。
グラフニューラルネットワークの特徴としてアフィニティ尺度の利用について検討する。
本稿では,これらの特徴に基づくメッセージパッシングネットワークを提案し,その性能を様々なノードおよびグラフ特性予測タスクで評価する。
論文 参考訳（メタデータ） (2022-06-23T18:51:35Z) - Contrastive and Generative Graph Convolutional Networks for Graph-based
Semi-Supervised Learning [64.98816284854067]
グラフベースのSemi-Supervised Learning (SSL)は、少数のラベル付きデータのラベルをグラフ経由で残りの巨大なラベル付きデータに転送することを目的としている。
本稿では,データ類似性とグラフ構造を両立させ,監視信号の強化を図るため,新しいGCNベースのSSLアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-09-15T13:59:28Z) - Tensor Graph Convolutional Networks for Multi-relational and Robust
Learning [74.05478502080658]
本稿では,テンソルで表されるグラフの集合に関連するデータから,スケーラブルな半教師付き学習(SSL)を実現するためのテンソルグラフ畳み込みネットワーク(TGCN)を提案する。
提案アーキテクチャは、標準的なGCNと比較して大幅に性能が向上し、最先端の敵攻撃に対処し、タンパク質間相互作用ネットワーク上でのSSL性能が著しく向上する。
論文 参考訳（メタデータ） (2020-03-15T02:33:21Z) - Graph Representation Learning via Graphical Mutual Information
Maximization [86.32278001019854]
本稿では,入力グラフとハイレベルな隠蔽表現との相関を測る新しい概念であるGMIを提案する。
我々は,グラフニューラルエンコーダの入力と出力の間でGMIを最大化することで訓練された教師なし学習モデルを開発する。
論文 参考訳（メタデータ） (2020-02-04T08:33:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。