論文の概要: Overlapping Spaces for Compact Graph Representations

• arxiv url: http://arxiv.org/abs/2007.02445v3
• Date: Fri, 8 Apr 2022 14:00:35 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-13 08:03:01.393787
• Title: Overlapping Spaces for Compact Graph Representations
• Title（参考訳）: コンパクトグラフ表現のための重なり合う空間
• Authors: Kirill Shevkunov and Liudmila Prokhorenkova
• Abstract要約: グラフ、テキスト、画像などの構造化データを埋め込むために、様々な非自明な空間が人気を集めている。 製品空間の概念を一般化し、構成探索問題を持たない重なり合う空間を導入する。
• 参考スコア（独自算出の注目度）: 17.919759296265
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Various non-trivial spaces are becoming popular for embedding structured data such as graphs, texts, or images. Following spherical and hyperbolic spaces, more general product spaces have been proposed. However, searching for the best configuration of product space is a resource-intensive procedure, which reduces the practical applicability of the idea. We generalize the concept of product space and introduce an overlapping space that does not have the configuration search problem. The main idea is to allow subsets of coordinates to be shared between spaces of different types (Euclidean, hyperbolic, spherical). As a result, parameter optimization automatically learns the optimal configuration. Additionally, overlapping spaces allow for more compact representations since their geometry is more complex. Our experiments confirm that overlapping spaces outperform the competitors in graph embedding tasks. Here, we consider both distortion setup, where the aim is to preserve distances, and ranking setup, where the relative order should be preserved. The proposed method effectively solves the problem and outperforms the competitors in both settings. We also perform an empirical analysis in a realistic information retrieval task, where we compare all spaces by incorporating them into DSSM. In this case, the proposed overlapping space consistently achieves nearly optimal results without any configuration tuning. This allows for reducing training time, which can be significant in large-scale applications.
• Abstract（参考訳）: グラフ、テキスト、画像などの構造化データを埋め込むために、様々な非自明な空間が人気を集めている。 球面および双曲空間に続いて、より一般的な積空間が提案されている。 しかし、製品空間の最適構成を求めることは資源集約的な手順であり、アイデアの実用性を減らすことができる。 製品空間の概念を一般化し,構成探索問題を持たない重複空間を導入する。 主なアイデアは、座標の部分集合を異なるタイプの空間(ユークリッド、双曲、球面)間で共有できるようにすることである。 その結果、パラメータ最適化は自動的に最適な構成を学習する。 さらに、重なり合う空間は、幾何学がより複雑であるため、よりコンパクトな表現を可能にする。 実験により、重なり合う空間はグラフ埋め込みタスクにおいて競合より優れていることを確認した。 本稿では,距離の保存を目的とした歪み設定と,相対的な順序を保存すべき位置のランク設定の両方について考察する。 提案手法は,この問題を効果的に解決し,両設定の競合よりも優れる。 また,現実的な情報検索タスクにおいて経験的解析を行い,DSSMに組み込んだ全空間を比較した。 この場合、提案した重なり合う空間は、構成調整なしでほぼ最適な結果が得られる。 これにより、大規模なアプリケーションで重要なトレーニング時間を短縮することができる。

関連論文リスト

• Alignment and Outer Shell Isotropy for Hyperbolic Graph Contrastive Learning [69.6810940330906]
  高品質なグラフ埋め込みを学習するための新しいコントラスト学習フレームワークを提案する。 具体的には、階層的なデータ不変情報を効果的にキャプチャするアライメントメトリックを設計する。 双曲空間において、木の性質に関連する葉と高さの均一性に対処する必要があることを示す。
  論文  参考訳（メタデータ） (2023-10-27T15:31:42Z)
• Principal Component Analysis in Space Forms [7.822210329345704]
  空間形式における主成分分析(PCA)について検討する。 空間形式における与えられた点に対する最適の低次元アフィン部分空間を見つけることは次元減少に等しい。 最適アフィン部分空間は等式への解であり、(2)異なる次元の最適アフィン部分空間はネスト集合を形成する。
  論文  参考訳（メタデータ） (2023-01-06T23:48:37Z)
• HRCF: Enhancing Collaborative Filtering via Hyperbolic Geometric Regularization [52.369435664689995]
  HRCF (textitHyperbolic Regularization powered Collaborative Filtering) を導入し,幾何認識型双曲正規化器を設計する。 具体的には、ルートアライメントとオリジン認識ペナルティによる最適化手順を強化する。 提案手法は,双曲的凝集による過度な平滑化問題に対処でき,モデルの識別能力も向上する。
  論文  参考訳（メタデータ） (2022-04-18T06:11:44Z)
• Provably Accurate and Scalable Linear Classifiers in Hyperbolic Spaces [39.71927912296049]
  スケーラブルで単純な双曲型線形分類器を学習するための統一的なフレームワークを提案する。 我々のアプローチの要点は、ポアンカーの球体モデルに焦点を合わせ、接空間形式を用いて分類問題を定式化することである。 Poincarの2階と戦略的パーセプトロンの優れた性能は、提案フレームワークが双曲空間における一般的な機械学習問題にまで拡張可能であることを示している。
  論文  参考訳（メタデータ） (2022-03-07T21:36:21Z)
• Highly Scalable and Provably Accurate Classification in Poincare Balls [40.82908295137667]
  我々は、スケーラブルで単純な双曲型線形分類器を証明可能な性能保証で学習するための統一的なフレームワークを構築した。 提案手法は,新しい双曲型および二階型パーセプトロンアルゴリズムと,双曲型サポートベクトルマシン分類器の効率的かつ高精度な凸最適化設定を含む。 数百万の点からなる合成データセットと、シングルセルRNA-seq式測定、CIFAR10、Fashion-MNIST、mini-ImageNetのような複雑な実世界のデータセットの性能評価を行う。
  論文  参考訳（メタデータ） (2021-09-08T16:59:39Z)
• Switch Spaces: Learning Product Spaces with Sparse Gating [48.591045282317424]
  製品空間における表現を学習するためのデータ駆動アプローチであるswitch spacesを提案する。 我々は空間の選択、結合、切り替えを学習するスパースゲーティング機構を導入する。 知識グラフの補完と項目レコメンデーションの実験により,提案したスイッチ空間が新たな最先端性能を実現することを示す。
  論文  参考訳（メタデータ） (2021-02-17T11:06:59Z)
• Joint and Progressive Subspace Analysis (JPSA) with Spatial-Spectral Manifold Alignment for Semi-Supervised Hyperspectral Dimensionality Reduction [48.73525876467408]
  本稿では,超スペクトル部分空間解析のための新しい手法を提案する。 この手法はジョイント・アンド・プログレッシブ・サブスペース分析(JPSA)と呼ばれる。 2つの広帯域超スペクトルデータセットに対して提案したJPSAの優位性と有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2020-09-21T16:29:59Z)
• Robust Large-Margin Learning in Hyperbolic Space [64.42251583239347]
  ユークリッド空間ではなく双曲型で分類器を学ぶための最初の理論的保証を示す。 本研究では, 対向例の慎重な注入に頼って, 大面積超平面を効率よく学習するアルゴリズムを提案する。 双曲空間によく埋め込まれる階層的データに対して、低埋め込み次元は優れた保証を保証することを証明している。
  論文  参考訳（メタデータ） (2020-04-11T19:11:30Z)
• Learnable Subspace Clustering [76.2352740039615]
  本研究では,大規模サブスペースクラスタリング問題を効率的に解くために,学習可能なサブスペースクラスタリングパラダイムを開発する。 鍵となる考え方は、高次元部分空間を下層の低次元部分空間に分割するパラメトリック関数を学ぶことである。 我々の知る限り、本論文は、サブスペースクラスタリング手法の中で、数百万のデータポイントを効率的にクラスタ化する最初の試みである。
  論文  参考訳（メタデータ） (2020-04-09T12:53:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。