論文の概要: AMES: A Differentiable Embedding Space Selection Framework for Latent
Graph Inference
- arxiv url: http://arxiv.org/abs/2311.11891v1
- Date: Mon, 20 Nov 2023 16:24:23 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-21 18:04:29.723753
- Title: AMES: A Differentiable Embedding Space Selection Framework for Latent
Graph Inference
- Title(参考訳): AMES:潜時グラフ推論のための微分可能な埋め込みスペース選択フレームワーク
- Authors: Yuan Lu, Haitz S\'aez de Oc\'ariz Borde, Pietro Li\`o
- Abstract要約: Intentional Multi-Embedding Selection (AMES) フレームワークを導入する。
我々のフレームワークは、遅延グラフ推論の従来の手法と比較して、常に同等または優れた結果が得られる。
- 参考スコア(独自算出の注目度): 6.115315198322837
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In real-world scenarios, although data entities may possess inherent
relationships, the specific graph illustrating their connections might not be
directly accessible. Latent graph inference addresses this issue by enabling
Graph Neural Networks (GNNs) to operate on point cloud data, dynamically
learning the necessary graph structure. These graphs are often derived from a
latent embedding space, which can be modeled using Euclidean, hyperbolic,
spherical, or product spaces. However, currently, there is no principled
differentiable method for determining the optimal embedding space. In this
work, we introduce the Attentional Multi-Embedding Selection (AMES) framework,
a differentiable method for selecting the best embedding space for latent graph
inference through backpropagation, considering a downstream task. Our framework
consistently achieves comparable or superior results compared to previous
methods for latent graph inference across five benchmark datasets. Importantly,
our approach eliminates the need for conducting multiple experiments to
identify the optimal embedding space. Furthermore, we explore interpretability
techniques that track the gradient contributions of different latent graphs,
shedding light on how our attention-based, fully differentiable approach learns
to choose the appropriate latent space. In line with previous works, our
experiments emphasize the advantages of hyperbolic spaces in enhancing
performance. More importantly, our interpretability framework provides a
general approach for quantitatively comparing embedding spaces across different
tasks based on their contributions, a dimension that has been overlooked in
previous literature on latent graph inference.
- Abstract(参考訳): 現実のシナリオでは、データエンティティは固有の関係を持つかもしれないが、それらの関係を示す特定のグラフは直接アクセスできないかもしれない。
遅延グラフ推論は、グラフニューラルネットワーク(GNN)がポイントクラウドデータ上で動作できるようにし、必要なグラフ構造を動的に学習することで、この問題に対処する。
これらのグラフは、しばしば、ユークリッド、双曲、球面、あるいは積空間を用いてモデル化できる潜在埋め込み空間から導出される。
しかし、現在、最適埋め込み空間を決定するための原則付き微分法は存在しない。
本研究では,ダウンストリームタスクを考慮したバックプロパゲーションによる潜在グラフ推論のための最良埋め込み空間を選択するための微分可能な手法である,注目型マルチエンベディング選択(ames)フレームワークを紹介する。
筆者らのフレームワークは,5つのベンチマークデータセットにまたがる遅延グラフ推論手法と比較して,同等あるいは優れた結果が得られる。
重要なことは、最適埋め込み空間を特定するために複数の実験を行う必要がなくなることである。
さらに,異なる潜在性グラフの勾配寄与を追跡する解釈可能性について検討し,注意に基づく完全微分可能なアプローチが適切な潜在性空間を選択するためにどのように学習するかを明らかにした。
これまでの研究と相まって,実験では双曲空間の性能向上の利点を強調する。
より重要なことに、我々の解釈可能性フレームワークは、それらの貢献に基づいて異なるタスクにまたがる埋め込み空間を定量的に比較するための一般的なアプローチを提供します。
関連論文リスト
- Towards Data-centric Machine Learning on Directed Graphs: a Survey [23.498557237805414]
本稿では,有向グラフ学習研究のための新しい分類法を提案する。
我々はこれらの手法をデータ中心の観点から再検討し、データ表現の理解と改善に重点を置いている。
我々はこの分野における主要な機会と課題を特定し、有向グラフ学習における将来の研究と開発を導く洞察を提供する。
論文 参考訳(メタデータ) (2024-11-28T06:09:12Z) - Towards Graph Prompt Learning: A Survey and Beyond [38.55555996765227]
大規模"事前訓練と迅速な学習"パラダイムは、顕著な適応性を示している。
この調査は、この分野における100以上の関連する研究を分類し、一般的な設計原則と最新の応用を要約する。
論文 参考訳(メタデータ) (2024-08-26T06:36:42Z) - MS-IMAP -- A Multi-Scale Graph Embedding Approach for Interpretable Manifold Learning [1.8124328823188354]
本稿では,スペクトルグラフウェーブレットに基づくマルチスケールグラフネットワークの埋め込みフレームワークを提案する。
グラフ上のパリー・ウィーナー空間において、スペクトルグラフウェーブレット作用素は滑らかさよりも柔軟性と制御性が高いことを示す。
提案した埋め込みのさらなる利点は、埋め込みと入力特徴空間の対応性を確立する能力である。
論文 参考訳(メタデータ) (2024-06-04T20:48:33Z) - Improving embedding of graphs with missing data by soft manifolds [51.425411400683565]
グラフ埋め込みの信頼性は、連続空間の幾何がグラフ構造とどの程度一致しているかに依存する。
我々は、この問題を解決することができる、ソフト多様体と呼ばれる新しい多様体のクラスを導入する。
グラフ埋め込みにソフト多様体を用いることで、複雑なデータセット上のデータ解析における任意のタスクを追求するための連続空間を提供できる。
論文 参考訳(メタデータ) (2023-11-29T12:48:33Z) - You Only Transfer What You Share: Intersection-Induced Graph Transfer
Learning for Link Prediction [79.15394378571132]
従来見過ごされていた現象を調査し、多くの場合、元のグラフに対して密に連結された補グラフを見つけることができる。
より密度の高いグラフは、選択的で有意義な知識を伝達するための自然なブリッジを提供する元のグラフとノードを共有することができる。
この設定をグラフインターセクション誘導トランスファーラーニング(GITL)とみなし,eコマースや学術共同オーサシップ予測の実践的応用に動機づけられた。
論文 参考訳(メタデータ) (2023-02-27T22:56:06Z) - Latent Graph Inference using Product Manifolds [0.0]
遅延グラフ学習のための離散微分可能グラフモジュール(dDGM)を一般化する。
我々の新しいアプローチは、幅広いデータセットでテストされ、元のdDGMモデルよりも優れています。
論文 参考訳(メタデータ) (2022-11-26T22:13:06Z) - Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。
グラフが現在の勾配を混合する能力を定量化する計量法を提案する。
そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
論文 参考訳(メタデータ) (2022-04-13T15:54:35Z) - Bayesian Graph Contrastive Learning [55.36652660268726]
本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。
提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。
いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
論文 参考訳(メタデータ) (2021-12-15T01:45:32Z) - Group Contrastive Self-Supervised Learning on Graphs [101.45974132613293]
グラフ上での自己教師型学習をコントラッシブ手法を用いて研究する。
複数の部分空間におけるグラフの対比により、グラフエンコーダはより豊富な特徴を捉えることができる。
論文 参考訳(メタデータ) (2021-07-20T22:09:21Z) - Understanding graph embedding methods and their applications [1.14219428942199]
グラフ埋め込み技術は、高次元スパースグラフを低次元密度連続ベクトル空間に変換するのに有効である。
生成した非線形かつ高情報性の高いグラフ埋め込みは、異なる下流グラフ解析タスクに便利に利用することができる。
論文 参考訳(メタデータ) (2020-12-15T00:30:22Z) - Spatial Pyramid Based Graph Reasoning for Semantic Segmentation [67.47159595239798]
セマンティックセグメンテーションタスクにグラフ畳み込みを適用し、改良されたラプラシアンを提案する。
グラフ推論は、空間ピラミッドとして構成された元の特徴空間で直接実行される。
計算とメモリのオーバーヘッドの利点で同等のパフォーマンスを実現しています。
論文 参考訳(メタデータ) (2020-03-23T12:28:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。