論文の概要: Wavelet-Induced Rotary Encodings: RoPE Meets Graphs

• arxiv url: http://arxiv.org/abs/2509.22259v2
• Date: Mon, 29 Sep 2025 18:41:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-01 12:20:10.377685
• Title: Wavelet-Induced Rotary Encodings: RoPE Meets Graphs
• Title（参考訳）: ウェーブレットによるロータリーエンコーディング:RoPEがグラフを発表
• Authors: Isaac Reid, Arijit Sehanobish, Cederik Höfs, Bruno Mlodozeniec, Leonhard Vulpius, Federico Barbero, Adrian Weller, Krzysztof Choromanski, Richard E. Turner, Petar Veličković,
• Abstract要約: WIREはRotary Position sをグラフ構造化データに拡張する。 我々は、WIRE が RoPE よりも一般的であることを示し、グリッドグラフの特別な場合において後者を復元する。 WIREは、様々な合成および実世界のアルゴリズムタスクでテストする。
• 参考スコア（独自算出の注目度）: 51.129737804765334
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We introduce WIRE: Wavelet-Induced Rotary Encodings. WIRE extends Rotary Position Encodings (RoPE), a popular algorithm in LLMs and ViTs, to graph-structured data. We demonstrate that WIRE is more general than RoPE, recovering the latter in the special case of grid graphs. WIRE also enjoys a host of desirable theoretical properties, including equivariance under node ordering permutation, compatibility with linear attention, and (under select assumptions) asymptotic dependence on graph resistive distance. We test WIRE on a range of synthetic and real-world tasks, including identifying monochromatic subgraphs, semantic segmentation of point clouds, and more standard graph benchmarks. We find it to be effective in settings where the underlying graph structure is important.
• Abstract（参考訳）: WIRE: Wavelet-induced Rotary Encodingsを紹介する。 WIRE は LLM や ViT で一般的なアルゴリズムである Rotary Position Encodings (RoPE) をグラフ構造化データに拡張している。 我々は、WIRE が RoPE よりも一般的であることを示し、グリッドグラフの特別な場合において後者を復元する。 WIREはまた、ノード順序の置換の下での同値性、線形注意との整合性、グラフ抵抗距離への漸近的依存など、望ましい理論的性質のホストも享受している。 我々は、単色サブグラフの特定、点雲の意味的セグメンテーション、より標準的なグラフベンチマークなど、様々な合成および実世界のタスクでWIREをテストする。 基礎となるグラフ構造が重要である設定において有効であることが分かりました。

関連論文リスト

• GLANCE: Graph Logic Attention Network with Cluster Enhancement for Heterophilous Graph Representation Learning [54.60090631330295]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データから学習する上で大きな成功を収めている。 本稿では,論理誘導推論,動的グラフ改善,適応クラスタリングを統合し,グラフ表現学習を強化する新しいフレームワークであるGLANCEを提案する。
  論文  参考訳（メタデータ） (2025-07-24T15:45:26Z)
• Disentangled Graph Representation Based on Substructure-Aware Graph Optimal Matching Kernel Convolutional Networks [4.912298804026689]
  グラフは関係データを効果的に特徴付け、グラフ表現学習法を駆動する。 最近の不整合グラフ表現学習は、グラフデータの独立因子を分離することにより、解釈可能性を高める。 本稿では,この制限に対処するグラフ最適マッチングカーネル畳み込みネットワーク(GOMKCN)を提案する。
  論文  参考訳（メタデータ） (2025-04-23T02:26:33Z)
• Range-aware Positional Encoding via High-order Pretraining: Theory and Practice [14.521929085104441]
  大量のグラフデータに対する教師なし事前トレーニングは、ラベル付きデータが制限された実世界のアプリケーションでは不可欠である。 本稿では,多解像度構造情報をモデル化することに焦点を当てたグラフの事前学習戦略を提案する。 このアプローチはグラフ構造にのみ依存するが、ドメインに依存しず、さまざまなドメインのデータセットに適応可能である。
  論文  参考訳（メタデータ） (2024-09-27T19:53:10Z)
• Joint Graph Rewiring and Feature Denoising via Spectral Resonance [10.850726111343063]
  雑音グラフを結合して再構成するアルゴリズムを提案する。 提案手法は, 実世界のノード分類タスクにおいて, 既存の手法よりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2024-08-13T20:16:11Z)
• Greener GRASS: Enhancing GNNs with Encoding, Rewiring, and Attention [12.409982249220812]
  本稿では,新しいGNNアーキテクチャであるGraph Attention with Structures (GRASS)を紹介する。 GRASSはランダムな正規グラフを重畳して入力グラフをリワイヤし、長距離情報伝搬を実現する。 また、グラフ構造化データに適した新しい付加的注意機構も採用している。
  論文  参考訳（メタデータ） (2024-07-08T06:21:56Z)
• Rethinking Explaining Graph Neural Networks via Non-parametric Subgraph Matching [68.35685422301613]
  そこで我々はMatchExplainerと呼ばれる新しい非パラメトリックな部分グラフマッチングフレームワークを提案し、説明的部分グラフを探索する。 ターゲットグラフと他のインスタンスを結合し、ノードに対応する距離を最小化することで最も重要な結合部分構造を識別する。 合成および実世界のデータセットの実験は、最先端のパラメトリックベースラインをかなりのマージンで上回り、MatchExplainerの有効性を示す。
  論文  参考訳（メタデータ） (2023-01-07T05:14:45Z)
• Spectral Graph Convolutional Networks With Lifting-based Adaptive Graph Wavelets [81.63035727821145]
  スペクトルグラフ畳み込みネットワーク(SGCN)はグラフ表現学習において注目を集めている。 本稿では,適応グラフウェーブレットを用いたグラフ畳み込みを実装した新しいスペクトルグラフ畳み込みネットワークを提案する。
  論文  参考訳（メタデータ） (2021-08-03T17:57:53Z)
• Dirichlet Graph Variational Autoencoder [65.94744123832338]
  本稿では,グラフクラスタメンバシップを潜在因子とするDGVAE(Dirichlet Graph Variational Autoencoder)を提案する。 バランスグラフカットにおける低パス特性により、入力グラフをクラスタメンバシップにエンコードする、Heattsと呼ばれるGNNの新しい変種を提案する。
  論文  参考訳（メタデータ） (2020-10-09T07:35:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。