論文の概要: Hyperbolic Convolution via Kernel Point Aggregation
- arxiv url: http://arxiv.org/abs/2306.08862v1
- Date: Thu, 15 Jun 2023 05:15:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-16 16:35:00.753870
- Title: Hyperbolic Convolution via Kernel Point Aggregation
- Title(参考訳): 核点集約による双曲畳み込み
- Authors: Eric Qu, Dongmian Zou
- Abstract要約: HKConvは、まず、訓練可能な局所双曲的特徴と、双曲空間に固定されたカーネル点とを相関付ける新しい訓練可能な双曲的畳み込みである。
我々は,HKConv層を有するニューラルネットワークが,様々なタスクにおいて最先端を推し進めていることを示す。
- 参考スコア(独自算出の注目度): 4.061135251278187
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning representations according to the underlying geometry is of vital
importance for non-Euclidean data. Studies have revealed that the hyperbolic
space can effectively embed hierarchical or tree-like data. In particular, the
few past years have witnessed a rapid development of hyperbolic neural
networks. However, it is challenging to learn good hyperbolic representations
since common Euclidean neural operations, such as convolution, do not extend to
the hyperbolic space. Most hyperbolic neural networks do not embrace the
convolution operation and ignore local patterns. Others either only use
non-hyperbolic convolution, or miss essential properties such as equivariance
to permutation. We propose HKConv, a novel trainable hyperbolic convolution
which first correlates trainable local hyperbolic features with fixed kernel
points placed in the hyperbolic space, then aggregates the output features
within a local neighborhood. HKConv not only expressively learns local features
according to the hyperbolic geometry, but also enjoys equivariance to
permutation of hyperbolic points and invariance to parallel transport of a
local neighborhood. We show that neural networks with HKConv layers advance
state-of-the-art in various tasks.
- Abstract(参考訳): 基礎となる幾何学に基づく学習表現は、非ユークリッドデータにとって極めて重要である。
双曲空間は階層的あるいは木のようなデータを効果的に埋め込むことができることが研究によって明らかになった。
特にここ数年、双曲型ニューラルネットワークの急速な発展が目撃されている。
しかし、畳み込みのような共通のユークリッド神経操作は双曲空間に拡張されないため、良い双曲表現を学ぶことは困難である。
ほとんどの双曲型ニューラルネットワークは畳み込み操作を受け入れず、局所パターンを無視している。
他のものは非双曲的畳み込みのみを使用するか、置換への同値性のような本質的性質を見逃すかのどちらかである。
まず,学習可能な局所双曲的特徴と双曲空間に固定された固定的な核点を関連付け,その出力特徴を局所近傍に集約した新しい双曲的畳み込みhkconvを提案する。
HKConv は双曲幾何学に従って局所的特徴を表現的に学習するだけでなく、双曲点の置換や局所近傍の平行移動への不変性も享受する。
我々は,HKConv層を有するニューラルネットワークが,様々なタスクにおいて最先端を推し進めていることを示す。
関連論文リスト
- Hyperbolic Delaunay Geometric Alignment [52.835250875177756]
双曲空間におけるデータセットの比較のための類似度スコアを提案する。
中心となる考え方は、与えられた集合をまたいだデータポイントを接続する双曲デラウネーグラフのエッジを数えることである。
人工および実生活の生物学的データに関する実証的研究を行い、HyperDGAが集合間の古典的距離の双曲バージョンより優れていることを示す。
論文 参考訳(メタデータ) (2024-04-12T17:14:58Z) - Hyperbolic vs Euclidean Embeddings in Few-Shot Learning: Two Sides of
the Same Coin [49.12496652756007]
この結果から, 共通の双曲半径での双曲埋め込みが達成できることが示唆された。
従来のベンチマーク結果とは対照的に、ユークリッド計量を備えた固定半径エンコーダにより、より良い性能が得られることを示す。
論文 参考訳(メタデータ) (2023-09-18T14:51:46Z) - A Unification Framework for Euclidean and Hyperbolic Graph Neural
Networks [8.080621697426997]
ハイパーボリックニューラルネットワークは、グラフデータセット固有の階層を効果的にキャプチャする。
層内の複数の非連続(ジャイロ-)ベクトル空間を絡み合わせることで、一般化と拡張性の観点から制限される。
検索空間としてPoincareディスクモデルを提案し,ディスク上にすべての近似を適用する。
我々のモデルは、解釈可能性や様々なモデルコンポーネントの効率的な実行といったユークリッドネットワークのパワーを利用するだけでなく、様々なベンチマークにおいてユークリッドと双曲の双方よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-06-09T05:33:02Z) - HRCF: Enhancing Collaborative Filtering via Hyperbolic Geometric
Regularization [52.369435664689995]
HRCF (textitHyperbolic Regularization powered Collaborative Filtering) を導入し,幾何認識型双曲正規化器を設計する。
具体的には、ルートアライメントとオリジン認識ペナルティによる最適化手順を強化する。
提案手法は,双曲的凝集による過度な平滑化問題に対処でき,モデルの識別能力も向上する。
論文 参考訳(メタデータ) (2022-04-18T06:11:44Z) - Hyperbolic Vision Transformers: Combining Improvements in Metric
Learning [116.13290702262248]
計量学習のための新しい双曲型モデルを提案する。
本手法のコアとなるのは、双曲空間にマッピングされた出力埋め込みを備えた視覚変換器である。
4つのデータセットに6つの異なる定式化を施したモデルの評価を行った。
論文 参考訳(メタデータ) (2022-03-21T09:48:23Z) - HyLa: Hyperbolic Laplacian Features For Graph Learning [44.33054069927441]
ハイパーボリック空間は、ツリーとグラフ構造化データの埋め込みをサポートすることができる。
グラフ学習では、双曲空間の点がディープニューラルネットワークの信号としてうまく使われている。
既存の双曲ネットワークは計算コストが高く、数値的に不安定である。
グラフ学習において双曲空間を利用するための全く異なるアプローチであるHyLaを提案する。
論文 参考訳(メタデータ) (2022-02-14T16:40:24Z) - Nested Hyperbolic Spaces for Dimensionality Reduction and Hyperbolic NN
Design [8.250374560598493]
ハイパーボリックニューラルネットワークは、階層的なデータセットを効率的かつ効率的に表現できることから、近年人気がある。
これらのネットワークを開発する際の課題は、埋め込み空間、すなわち双曲空間の非線形性にある。
本稿では, 射影(埋め込み)の概念と, 内在的な凝集, 双曲空間内の非線形性を併用した, 完全双曲型ニューラルネットワークを提案する。
論文 参考訳(メタデータ) (2021-12-03T03:20:27Z) - Fully Hyperbolic Neural Networks [63.22521652077353]
ローレンツモデルに基づく双曲型ネットワークを構築するための,完全双曲型フレームワークを提案する。
提案手法は,浅層ネットワークと深層ネットワークの両方を構築する上で,優れた性能を示す。
論文 参考訳(メタデータ) (2021-05-31T03:36:49Z) - A Hyperbolic-to-Hyperbolic Graph Convolutional Network [46.80564170208473]
H2H-GCN(hyperbolic-to-hyperbolic graph Convolutional Network)を提案する。
H2H-GCNは、リンク予測、ノード分類、グラフ分類タスクを大幅に改善する。
論文 参考訳(メタデータ) (2021-04-14T16:09:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。