論文の概要: Hypergraph as Language
- arxiv url: http://arxiv.org/abs/2605.21858v1
- Date: Thu, 21 May 2026 01:09:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.045447
- Title: Hypergraph as Language
- Title(参考訳): 言語としてのハイパーグラフ
- Authors: Mengqi Lei, Guohuan Xie, Shihui Ying, Shaoyi Du, Jun-Hai Yong, Siqi Li, Yue Gao,
- Abstract要約: 大規模言語モデルのためのハイパーグラフネイティブアライメントフレームワークを提案する。
ハイパーグラフ構造の場合、既存のメソッドは複数のオブジェクトが同じ高次関係で結合されているというネイティブセマンティクスを保存するのに失敗することが多い。
また,Hyper-Alignはドメイン内およびゼロショット評価において,既存手法よりも大幅に優れていることを示す。
- 参考スコア(独自算出の注目度): 49.35033483821496
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) have recently shown strong potential in modeling relational structures. However, existing approaches remain fundamentally graph-centric: they focus on processing pairwise graph structures into tokens that LLMs can understand. In contrast, many real-world relational patterns do not naturally conform to the pairwise-edge assumption, and are better modeled as high-order associations in hypergraphs. For hypergraph structures, existing methods often fail to preserve the native semantics that multiple objects are jointly connected by the same high-order relation, limiting their ability to exploit complex structures. To address this limitation, we put forth the "Hypergraph as Language" perspective and propose Hyper-Align, a hypergraph-native alignment framework for large language models. Hyper-Align compiles the query-object-centered hypergraph context into hypergraph tokens directly consumable by a base LLM. Specifically, we introduce Hypergraph Incidence Detail Template with Overview (HIDT-O), which serializes high-order association structures into a fixed-shape hybrid template combining local incidence details and overview-level summaries. We then design a Hypergraph Incidence Projector (HIP), which maps native high-order incidence structures into the LLM token space through explicit semantic-structural decoupling and bidirectional message passing between vertices and hyperedges. We further define a concrete Hypergraph-as-Language input protocol, which jointly feeds hypergraph tokens and textual prompts into a frozen base LLM, supporting both vertex-level and hyperedge-level tasks under a unified question-answering paradigm. To systematically evaluate different methods in hypergraph structural modeling, we introduce HyperAlign-Bench. Extensive experiments show that Hyper-Align significantly outperforms existing methods across in-domain and zero-shot evaluations.
- Abstract(参考訳): 大規模言語モデル(LLM)は、最近リレーショナル構造をモデル化する大きな可能性を示している。
しかし、既存のアプローチは基本的にグラフ中心であり、LLMが理解できるトークンにペアワイズグラフ構造を処理することに重点を置いている。
対照的に、現実世界のリレーショナルパターンの多くは、ペアワイズエッジの仮定に自然に準拠せず、ハイパーグラフの高次関連としてモデル化されている。
ハイパーグラフ構造の場合、既存のメソッドは複数のオブジェクトが同じ高次関係で接続されているというネイティブセマンティクスの保存に失敗し、複雑な構造を利用する能力を制限する。
この制限に対処するため,我々はハイパーグラフ・アズ・言語の観点から,大規模言語モデルのためのハイパーグラフネイティブアライメントフレームワークであるHyper-Alignを提案する。
Hyper-Alignは、クエリ対象中心のハイパーグラフコンテキストを、ベースLSMで直接消費可能なハイパーグラフトークンにコンパイルする。
具体的には、高次関連構造を局所的なインシデントの詳細と概要レベルの要約を組み合わせた固定形ハイブリッドテンプレートにシリアライズするHypergraph Incidence Detail Template with Overview(HIDT-O)を紹介する。
次に,HIP (Hypergraph Incidence Projector) を設計し,頂点とハイパーエッジの間の意味的・構造的疎結合と双方向のメッセージパッシングを通じて,ネイティブな高次インシデント構造をLLMトークン空間にマッピングする。
さらに,ハイパーグラフトークンとテキストプロンプトを凍結ベースLLMに共同で供給する,具体的なハイパーグラフ・アズ・ランゲージ入力プロトコルを定義した。
ハイパーグラフ構造モデリングにおける異なる手法を体系的に評価するために,HyperAlign-Benchを導入する。
大規模な実験により、Hyper-Alignはドメイン内およびゼロショット評価で既存のメソッドよりも大幅に優れていた。
関連論文リスト
- Modeling Hypergraph Using Large Language Models [4.58199980642666]
ハイパーグラフは、高階クラスタリング、ハイパーグラフニューラルネットワーク、コンピュータビジョンで使用される。
しかし、従来のペアワイズグラフと比較して、実際のハイパーグラフデータセットはスケールと多様性の両方において不足している。
マルチエージェント協調によるハイパーグラフの生成と進化をシミュレートする新しいLCM駆動型ハイパーグラフ生成装置HyperLLMを紹介する。
論文 参考訳(メタデータ) (2025-10-09T04:23:16Z) - Cross-Granularity Hypergraph Retrieval-Augmented Generation for Multi-hop Question Answering [49.43814054718318]
マルチホップ質問応答 (MHQA) は、正しい回答を得るために複数の経路に散在する知識を統合する必要がある。
従来の検索拡張生成法(RAG)は主に粗い粒度のテキスト意味的類似性に焦点を当てている。
本稿では,HGRAG for MHQAという新しいRAG手法を提案する。
論文 参考訳(メタデータ) (2025-08-15T06:36:13Z) - HyperBERT: Mixing Hypergraph-Aware Layers with Language Models for Node Classification on Text-Attributed Hypergraphs [16.07396492960869]
我々はハイパーグラフリレーショナル構造とテキスト分散ハイパーグラフを同時にモデル化する新しいアーキテクチャHyperBERTを提案する。
結果から,HyperBERTは5つの挑戦的テキスト分散ハイパーグラフノード分類ベンチマークに対して,新たな最先端性を達成していることがわかった。
論文 参考訳(メタデータ) (2024-02-11T21:16:26Z) - Hypergraph Transformer for Semi-Supervised Classification [50.92027313775934]
我々は新しいハイパーグラフ学習フレームワークHyperGraph Transformer(HyperGT)を提案する。
HyperGTはTransformerベースのニューラルネットワークアーキテクチャを使用して、すべてのノードとハイパーエッジのグローバル相関を効果的に検討する。
局所接続パターンを保ちながら、グローバルな相互作用を効果的に組み込むことで、包括的なハイパーグラフ表現学習を実現する。
論文 参考訳(メタデータ) (2023-12-18T17:50:52Z) - From Hypergraph Energy Functions to Hypergraph Neural Networks [94.88564151540459]
パラメータ化されたハイパーグラフ正規化エネルギー関数の表現型族を示す。
次に、これらのエネルギーの最小化がノード埋め込みとして効果的に機能することを実証する。
提案した双レベルハイパーグラフ最適化と既存のGNNアーキテクチャを共通的に用いている。
論文 参考訳(メタデータ) (2023-06-16T04:40:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。