論文の概要: Mapping Text to Multiplex Graph: Prompt Compression as Lévy Walk-Guided Graph Pruning
- arxiv url: http://arxiv.org/abs/2607.01241v1
- Date: Mon, 04 May 2026 01:41:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 00:46:12.973738
- Title: Mapping Text to Multiplex Graph: Prompt Compression as Lévy Walk-Guided Graph Pruning
- Title（参考訳）: テキストを多重グラフにマッピングする:レビーウォークガイドグラフプルーニングによるプロンプト圧縮
- Abstract要約: RAGPは、多重グラフ上の冗長性を考慮したグラフプルーニングとして、即時圧縮を定式化する。
LongBenchの実験では、RAGPは平均スコア49.3を4倍の圧縮比で達成している。
- 参考スコア（独自算出の注目度）: 55.43705665875779
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing prompt compression methods treat text as flat token sequences, failing to capture the distributed nature of important information, which is often spread across multiple locations and connected through both local syntactic dependencies and global semantic relations. Such relational structure is naturally represented as a graph, where tokens or sentences become nodes and their dependencies become edges. To this end, we propose RAGP, which formulates prompt compression as Redundancy-Aware Graph Pruning on a multiplex graph that jointly models fine-grained attention-based dependencies and coarse-grained semantic relations. To efficiently identify non-redundant nodes in this heterogeneous structure (dense local subgraphs and sparse global connections), we employ Levy walks whose heavy-tailed step distribution naturally balances local exploitation with global exploration. Experiments on LongBench show that RAGP achieves an average score of 49.3 under a 4x compression ratio, outperforming existing LLM-based compression methods, such as LongLLMLingua, which attains 48.8 at a 3x compression ratio. Besides, RAGP also surpasses state-of-the-art vision-based text compression paradigms on multiple tasks. The code is available at https://anonymous.4open.science/r/RAGP-B0CB.
- Abstract（参考訳）: 既存の即時圧縮法は、テキストをフラットなトークンシーケンスとして扱うが、重要な情報の分散の性質を捉えず、しばしば複数の場所に分散し、局所的な構文的依存関係とグローバルな意味的関係を通して接続される。
このような関係構造は自然にグラフとして表現され、トークンや文がノードになり、依存関係がエッジになる。
この目的を達成するために、RAGPを提案する。このRAGPは、細粒度依存と粗粒度意味関係を協調的にモデル化した多重グラフ上で、冗長性認識グラフプルーニング(Redundancy-Aware Graph Pruning)として高速に圧縮を定式化する。
この不均一な構造(深部部分グラフと疎大なグローバル接続)における非冗長ノードを効率的に同定するために、我々はレヴィウォークを用いる。
LongBenchの実験では、RAGPは平均スコア49.3を4倍圧縮比で達成し、3倍圧縮比で48.8に達するLongLLMLinguaのような既存のLLMベースの圧縮手法よりも優れていた。
さらにRAGPは、複数のタスクにおける最先端のビジョンベースのテキスト圧縮パラダイムを超越している。
コードはhttps://anonymous.4open.science/r/RAGP-B0CBで公開されている。
関連論文リスト
- Columnar-Embedder: A Biologically Inspired Cortical Architecture for Binary Sparse Distributed Graph Representations [0.0]
グラフノードのスパース分散表現を学習するためのカラムナー・エンベッドダーアーキテクチャを提案する。
このアーキテクチャは、ポータビリティ、ノイズに対するレジリエンス、データの破損に対する堅牢性を示す。
5つのグラフベンチマークにおいて、SDRの性能は実数値密度埋め込みと競合する。
論文 参考訳（メタデータ） (2026-08-12T03:31:39Z) - AGE: Adaptive-masking for Graph Embedding in Graph Retrieval-Augmented Generation [3.6194630559312113]
GraphRAGは検索拡張生成(RAG)の拡張であり、グラフ構造化データを外部知識として参照することで、大きな言語モデル(LLM)をサポートする。
グラフ埋め込み(AGE)のAdaptive-maskingを導入することでこの問題に対処する。
AGEでは、マスクベースの自己教師型学習(SSL)アプローチでTransformerを採用している。
論文 参考訳（メタデータ） (2026-06-30T01:23:09Z) - STAGE: Tackling Semantic Drift in Multimodal Federated Graph Learning [48.96526409527749]
フェデレーショングラフ学習(FGL)は、複数のクライアントにわたるグラフデータの協調トレーニングを可能にする。
鍵となる課題は、異なるモダリティドメインのクライアントが共通のセマンティックスペースを共有していないことだ。
MM-FGLのためのプロトコルファーストフレームワークである textbfSTAGE を提案する。
論文 参考訳（メタデータ） (2026-05-12T10:35:43Z) - Improving LLM Reasoning with Homophily-aware Structural and Semantic Text-Attributed Graph Compression [55.51959317490934]
大規模言語モデル(LLM)は、テキスト分散グラフ(TAG)理解において有望な能力を示している。
グラフは本来、構造情報や意味情報を豊富に含むものであり、それらの有効利用はLLMの推論性能の潜在的な利益を解放する可能性があると論じる。
グラフホモフィリーの活用を目的としたフレームワーク LLMs (HS2C) のホモフィリー対応構造とセマンティック圧縮を提案する。
論文 参考訳（メタデータ） (2026-01-13T03:35:18Z) - Sketch-Augmented Features Improve Learning Long-Range Dependencies in Graph Neural Networks [16.5175121704107]
グラフニューラルネットワークは、局所的な情報を反復的に集約することで、グラフ構造化データから学習する。
この作業では、ノード機能のランダムなグローバルな埋め込みを標準のGNNに注入し、長距離依存関係を効率的にキャプチャする。
実世界のグラフ学習における実験結果から,この手法がベースラインGNNよりも一貫して性能を向上させることが確認された。
論文 参考訳（メタデータ） (2025-11-05T19:41:56Z) - Schreier-Coset Graph Propagation [2.0339465062586566]
この研究は、入力グラフトポロジを変更することなく、Schrier-Coset 埋め込みを通じてノード特徴を豊かにするグループ理論拡張法であるSchrier-Coset Graph Propagation (SCGP)を導入している。
SCGPはボトルネックのない接続パターンをコンパクトな特徴空間に埋め込み、計算効率を維持しながら長距離メッセージパッシングを改善する。
論文 参考訳（メタデータ） (2025-05-15T15:14:02Z) - Beyond Message Passing: Neural Graph Pattern Machine [50.78679002846741]
本稿では,グラフサブストラクチャから直接学習することで,メッセージパッシングをバイパスする新しいフレームワークであるNeural Graph Pattern Machine(GPM)を紹介する。
GPMはタスク関連グラフパターンを効率的に抽出し、エンコードし、優先順位付けする。
論文 参考訳（メタデータ） (2025-01-30T20:37:47Z) - Semi-supervised Domain Adaptation on Graphs with Contrastive Learning and Minimax Entropy [12.209076900021621]
グラフ上の半教師付きドメイン適応(SSDA)は、ラベル付きソースグラフの知識を活用して、限られたラベルを持つターゲットグラフ上のノード分類を支援することを目的としている。
本稿では,textbfGraph textbfContrastive textbfLとminimax entropy trainingを用いたSemiGCLと呼ばれる新しい手法を提案する。
論文 参考訳（メタデータ） (2023-09-14T03:15:57Z) - Partition and Code: learning how to compress graphs [50.29024357495154]
まず、分割アルゴリズムがグラフを基本構造に分解し、これらを確率分布を学習する小さな辞書の要素にマッピングし、エントロピーエンコーダが表現をビットに変換する。
提案アルゴリズムは,非パラメトリックおよびパラメトリックグラフ圧縮器の異なるファミリーに対して,多種多様な実世界のネットワーク上で定量的に評価し,大幅な性能向上を実現している。
論文 参考訳（メタデータ） (2021-07-05T11:41:16Z) - Factorizable Graph Convolutional Networks [90.59836684458905]
本稿では,グラフに符号化された相互に絡み合った関係を明示的に解消する新しいグラフ畳み込みネットワーク(GCN)を提案する。
FactorGCNは単純なグラフを入力として取り、それをいくつかの分解グラフに分解する。
提案したFacterGCNは,合成および実世界のデータセットに対して質的かつ定量的に評価する。
論文 参考訳（メタデータ） (2020-10-12T03:01:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。