論文の概要: AGE: Adaptive-masking for Graph Embedding in Graph Retrieval-Augmented Generation
- arxiv url: http://arxiv.org/abs/2607.00052v1
- Date: Tue, 30 Jun 2026 01:23:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.596858
- Title: AGE: Adaptive-masking for Graph Embedding in Graph Retrieval-Augmented Generation
- Title(参考訳): AGE: グラフ検索拡張ジェネレーションにおけるグラフ埋め込みのための適応型マスキング
- Abstract要約: GraphRAGは検索拡張生成(RAG)の拡張であり、グラフ構造化データを外部知識として参照することで、大きな言語モデル(LLM)をサポートする。
グラフ埋め込み(AGE)のAdaptive-maskingを導入することでこの問題に対処する。
AGEでは、マスクベースの自己教師型学習(SSL)アプローチでTransformerを採用している。
- 参考スコア(独自算出の注目度): 3.6194630559312113
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: GraphRAG is an extension of retrieval-augmented generation (RAG) that supports large language models (LLMs) by referring to graph-structured data as external knowledge. While this technique ideally captures intricate relationships, it often struggles with graph representations for LLMs, particularly for frozen LLMs, due to the misalignment between graph-based and text-based latent features. We tackle this issue by introducing the {\it Adaptive-masking for Graph Embedding (AGE)}. AGE employs a Transformer in a mask-based self-supervised learning (SSL) approach. We designed the architecture similar to text embedding encoders, addressing the latent feature misalignment. In contrast to natural language texts, graphs are concise representations, and there exist {\it key nodes} that hold dominant contextual information, which are challenging to predict from their surroundings. Masking such key nodes leads to inefficiency in the SSL process. Therefore, AGE focuses on predicting nodes apart from key nodes, utilizing a learnable node sampler. Our experimental results indicate that AGE significantly improves approaches using non-parametric search component in GraphQA tasks, achieving superior accuracy across four benchmark datasets with distinct characteristics.
- Abstract(参考訳): GraphRAGは検索拡張生成(RAG)の拡張であり、グラフ構造化データを外部知識として参照することで、大きな言語モデル(LLM)をサポートする。
この手法は複雑な関係を理想的に捉えるが、グラフベースとテキストベースの潜在機能との相違により、特に凍結LDMのグラフ表現に苦慮することが多い。
我々は、グラフ埋め込み(AGE)のための {\it Adaptive-maskingを導入することでこの問題に対処する。
AGEでは、マスクベースの自己教師型学習(SSL)アプローチでTransformerを採用している。
我々は、テキスト埋め込みエンコーダに似たアーキテクチャを設計し、潜在的特徴の不一致に対処した。
自然言語のテキストとは対照的に、グラフは簡潔な表現であり、その周囲から予測することが困難である、支配的な文脈情報を保持する「it key node」が存在する。
このようなキーノードをマスキングすることはSSLプロセスの非効率性につながる。
そのため、AGEは学習可能なノードサンプリング機能を利用して、キーノードとは別個のノードを予測することに重点を置いている。
実験結果から, GraphQAタスクにおける非パラメトリック検索コンポーネントを用いたアプローチは, AGEにより大幅に改善され, 特徴の異なる4つのベンチマークデータセットにおいて, 精度が向上することが示唆された。
関連論文リスト
- Rethinking Message Passing as Retrieval for Text-Attributed Graph Learning [63.602658976990874]
グラフニューラルネットワーク(GNN)は通常、メッセージパッシングニューラルネットワークとして概念化されている。
本稿では,GNNの検索拡張ビューについて述べる。各レイヤは,検索したグラフコンテキストの置換インサマリとともに,ノード表現に変分を適用して予測を行う。
この観点から、構造的メッセージパッシングをラベル認識検索と伝搬に置き換えるシンプルな集約ベースのフレームワークであるRTAを提案する。
論文 参考訳(メタデータ) (2026-08-27T07:25:44Z) - Semi-supervised Instruction Tuning for Large Language Models on Text-Attributed Graphs [62.544129365882014]
本稿では,SIT-Graph というグラフ学習用セミ教師付きインストラクションチューニングパイプラインを提案する。
SIT-Graphはモデルに依存しず、LSMを予測子として利用するグラフ命令チューニングメソッドにシームレスに統合することができる。
SIT-Graphは、最先端グラフチューニング手法に組み込むと、テキスト分散グラフベンチマークの性能を大幅に向上することを示した。
論文 参考訳(メタデータ) (2026-01-19T08:10:53Z) - GILT: An LLM-Free, Tuning-Free Graph Foundational Model for In-Context Learning [50.40400074353263]
グラフニューラルネットワーク(GNN)は、リレーショナルデータを先行する強力なツールであるが、しばしば目に見えないグラフに一般化するのに苦労する。
textbfGraph textbfIn-context textbfL textbfTransformer (GILT)を導入する。
論文 参考訳(メタデータ) (2025-10-06T08:09:15Z) - Graph Positional Autoencoders as Self-supervised Learners [42.78083704462157]
グラフオートエンコーダ(GAE)は入力として不完全なグラフを取り、マスクノードやエッジなどの欠落した要素を予測する。
グラフ位置自動エンコーダ (GraphPAE) を提案する。
異種ノード分類,グラフ特性予測,移動学習など,GraphPAEの有効性を検証するための広範な実験を行った。
論文 参考訳(メタデータ) (2025-05-29T11:10:11Z) - Align-GRAG: Reasoning-Guided Dual Alignment for Graph Retrieval-Augmented Generation [79.75818239774952]
大きな言語モデル(LLM)は目覚ましい能力を示しているが、幻覚や時代遅れの情報といった問題に苦戦している。
Retrieval-augmented Generation (RAG) は、情報検索システム(IR)を用いて、外部知識のLLM出力を基底にすることで、これらの問題に対処する。
本稿では、検索後句における新しい推論誘導二重アライメントフレームワークであるAlign-GRAGを提案する。
論文 参考訳(メタデータ) (2025-05-22T05:15:27Z) - Adaptive Tokenization: On the Hop-Overpriority Problem in Tokenized Graph Learning Models [59.98982735197465]
トークン学習モデル(TGLM)は、グラフをスケーラブルな処理のために順序付きトークンリストに変換する。
TGLMは手書きのトークンリストに依存しており、さまざまなグラフ学習シナリオへの適応性はまだ未検討である。
本稿では,手書きのトークンリストをTGLMで置き換えるプラグイン・アンド・プレイモジュールであるLearnable Graph Token List(LGTL)を提案する。
論文 参考訳(メタデータ) (2025-05-19T06:25:33Z) - LL4G: Self-Supervised Dynamic Optimization for Graph-Based Personality Detection [15.21447289641142]
本稿では,グラフニューラルネットワーク(GNN)を最適化する自己教師型フレームワークLL4Gを紹介する。
LL4Gは大規模言語モデル(LLM)を利用してグラフニューラルネットワーク(GNN)を最適化する自己教師型フレームワークである
KaggleとPandoraのデータセットの実験結果は、LL4Gが最先端モデルを上回っていることを示している。
論文 参考訳(メタデータ) (2025-04-02T21:46:30Z) - GMLM: Bridging Graph Neural Networks and Language Models for Heterophilic Node Classification [0.0]
本稿では,事前学習したテキストエンコーダとグラフ畳み込みネットワーク(R-GCN)を効果的に融合するフレームワークを提案する。
5つのヘテロ親和性ベンチマークの実験により、我々の積分法は最先端の結果が得られることを示した。
これらの結果は,テキストリッチグラフ表現学習における融合戦略の有効性を浮き彫りにした。
論文 参考訳(メタデータ) (2025-02-24T07:44:01Z) - Beyond Message Passing: Neural Graph Pattern Machine [50.78679002846741]
本稿では,グラフサブストラクチャから直接学習することで,メッセージパッシングをバイパスする新しいフレームワークであるNeural Graph Pattern Machine(GPM)を紹介する。
GPMはタスク関連グラフパターンを効率的に抽出し、エンコードし、優先順位付けする。
論文 参考訳(メタデータ) (2025-01-30T20:37:47Z) - Parameter-Efficient Tuning Large Language Models for Graph Representation Learning [62.26278815157628]
Graph-awareを導入します。
GPEFT - グラフ表現学習のための新しい手法。
グラフニューラルネットワーク(GNN)を用いて、隣接するノードからグラフプロンプトに構造情報をエンコードする。
我々は8つの異なるテキストリッチグラフで実施した総合的な実験を通じて,リンク予測評価において hit@1 と Mean Reciprocal Rank (MRR) の平均 2% の改善を観察し,本手法の有効性を検証した。
論文 参考訳(メタデータ) (2024-04-28T18:36:59Z) - Leveraging Large Language Models for Node Generation in Few-Shot Learning on Text-Attributed Graphs [5.587264586806575]
本稿では,Large Language Models (LLMs) を用いたノード生成によるテキスト分散グラフの強化のためのプラグイン・アンド・プレイ手法を提案する。
LLMはラベルから意味情報を抽出し、模範としてカテゴリに属するサンプルを生成する。
エッジ予測器を用いて、生のデータセットに固有の構造情報をキャプチャし、新たに生成されたサンプルを元のグラフに統合する。
論文 参考訳(メタデータ) (2023-10-15T16:04:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。