論文の概要: Neural Latent Geometry Search: Product Manifold Inference via
Gromov-Hausdorff-Informed Bayesian Optimization
- arxiv url: http://arxiv.org/abs/2309.04810v3
- Date: Fri, 27 Oct 2023 14:05:02 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-30 16:49:09.179388
- Title: Neural Latent Geometry Search: Product Manifold Inference via
Gromov-Hausdorff-Informed Bayesian Optimization
- Title（参考訳）: ニューラル潜時幾何探索:Gromov-Hausdorff-informed Bayesian Optimization による積多様体推論
- Authors: Haitz Saez de Ocariz Borde, Alvaro Arroyo, Ismael Morales, Ingmar
Posner, Xiaowen Dong
- Abstract要約: 我々は、この新しい定式化を数学的に定義し、ニューラル潜在幾何探索(NLGS)として作成する。
計量幾何学からのグロモフ・ハウスドルフ距離に基づいて、候補潜在測地間の距離の新たな概念を提案する。
次に、潜在測地間の滑らかさの概念に基づいてグラフ探索空間を設計し、その計算を帰納バイアスとして利用する。
- 参考スコア（独自算出の注目度）: 21.97865037637575
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent research indicates that the performance of machine learning models can
be improved by aligning the geometry of the latent space with the underlying
data structure. Rather than relying solely on Euclidean space, researchers have
proposed using hyperbolic and spherical spaces with constant curvature, or
combinations thereof, to better model the latent space and enhance model
performance. However, little attention has been given to the problem of
automatically identifying the optimal latent geometry for the downstream task.
We mathematically define this novel formulation and coin it as neural latent
geometry search (NLGS). More specifically, we introduce an initial attempt to
search for a latent geometry composed of a product of constant curvature model
spaces with a small number of query evaluations, under some simplifying
assumptions. To accomplish this, we propose a novel notion of distance between
candidate latent geometries based on the Gromov-Hausdorff distance from metric
geometry. In order to compute the Gromov-Hausdorff distance, we introduce a
mapping function that enables the comparison of different manifolds by
embedding them in a common high-dimensional ambient space. We then design a
graph search space based on the notion of smoothness between latent geometries
and employ the calculated distances as an additional inductive bias. Finally,
we use Bayesian optimization to search for the optimal latent geometry in a
query-efficient manner. This is a general method which can be applied to search
for the optimal latent geometry for a variety of models and downstream tasks.
We perform experiments on synthetic and real-world datasets to identify the
optimal latent geometry for multiple machine learning problems.
- Abstract（参考訳）: 近年の研究では、潜在空間の形状と基礎となるデータ構造を整合させることで、機械学習モデルの性能を向上させることが示されている。
研究者はユークリッド空間のみに頼るのではなく、一定の曲率を持つ双曲空間と球面空間、あるいはそれらの組合せを用いることによって、潜在空間のモデル化とモデル性能の向上を提唱している。
しかし,下流タスクの最適潜在幾何を自動的に同定する問題にはほとんど注意が払われていない。
我々は、この新しい定式化を数学的に定義し、それをneural latent geometry search (nlgs) と呼ぶ。
具体的には,一定曲率モデル空間の積と少数のクエリ評価からなる潜時幾何学を,いくつかの簡易な仮定の下で探索する試みを紹介する。
そこで本研究では,距離幾何学からグロモフ・ハウスドルフ距離を基準として,潜在測地線候補間距離の新たな概念を提案する。
グロモフ・ハウスドルフ距離を計算するために、共通高次元の周囲空間にそれらを埋め込むことで異なる多様体の比較を可能にする写像関数を導入する。
次に、潜在測地線間の滑らかさの概念に基づいてグラフ探索空間を設計し、計算された距離を追加帰納バイアスとして用いる。
最後に,ベイズ最適化を用いてクエリー効率の良い方法で最適な潜在幾何を探索する。
これは、様々なモデルや下流タスクの最適な潜在幾何を探索するために適用できる一般的な方法である。
複数の機械学習問題に対する最適潜伏幾何を特定するために,合成および実世界のデータセットの実験を行った。
関連論文リスト
- Score-based pullback Riemannian geometry [10.649159213723106]
本稿では,データ駆動型リーマン幾何学のフレームワークを提案する。
データサポートを通して高品質な測地学を作成し、データ多様体の固有次元を確実に推定する。
我々のフレームワークは、訓練中に等方性正規化を採用することで、自然に異方性正規化フローで使用することができる。
論文 参考訳（メタデータ） (2024-10-02T18:52:12Z) - (Deep) Generative Geodesics [57.635187092922976]
2つのデータポイント間の類似性を評価するために,新しい測定基準を導入する。
我々の計量は、生成距離と生成測地学の概念的定義に繋がる。
彼らの近似は、穏やかな条件下で真の値に収束することが証明されている。
論文 参考訳（メタデータ） (2024-07-15T21:14:02Z) - Reconstructing the Geometry of Random Geometric Graphs [9.004991291124096]
ランダム幾何学グラフは、距離空間上で定義されたランダムグラフモデルである。
サンプルグラフから基底空間の幾何を効率的に再構成する方法を示す。
論文 参考訳（メタデータ） (2024-02-14T21:34:44Z) - Adaptive Surface Normal Constraint for Geometric Estimation from Monocular Images [56.86175251327466]
本稿では,幾何学的文脈を取り入れつつ,画像から深度や表面正規度などの測地を学習するための新しい手法を提案する。
提案手法は,入力画像に存在する幾何学的変動を符号化した幾何学的文脈を抽出し,幾何的制約と深度推定を相関付ける。
本手法は,画像から高品質な3次元形状を生成可能な密着型フレームワーク内での深度と表面の正規分布推定を統一する。
論文 参考訳（メタデータ） (2024-02-08T17:57:59Z) - Gromov-Hausdorff Distances for Comparing Product Manifolds of Model
Spaces [21.97865037637575]
計量幾何学からのグロモフ・ハウスドルフ距離を用いて、候補潜在測地間の距離の新たな概念を導入する。
本稿では,Gromov-Hausdorff距離を推定したグラフ探索空間を用いて最適潜時幾何学を探索する。
論文 参考訳（メタデータ） (2023-09-09T11:17:06Z) - Warped geometric information on the optimisation of Euclidean functions [43.43598316339732]
我々は、潜在的に高次元ユークリッド空間で定義される実数値函数の最適化を考える。
函数の最適度は、曲がった計量を持つ多様体に沿う。
提案アルゴリズムは測地学の3次近似を用いており、標準ユークリッド勾配法よりも優れている傾向にある。
論文 参考訳（メタデータ） (2023-08-16T12:08:50Z) - Exploring Data Geometry for Continual Learning [64.4358878435983]
非定常データストリームのデータ幾何を探索することにより,新しい視点から連続学習を研究する。
提案手法は,新しいデータによって引き起こされる幾何構造に対応するために,基底空間の幾何学を動的に拡張する。
実験により,本手法はユークリッド空間で設計したベースライン法よりも優れた性能が得られることが示された。
論文 参考訳（メタデータ） (2023-04-08T06:35:25Z) - VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。
ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。
本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
論文 参考訳（メタデータ） (2023-04-03T13:13:19Z) - Finding Geometric Models by Clustering in the Consensus Space [61.65661010039768]
本稿では,未知数の幾何学的モデル,例えばホモグラフィーを求めるアルゴリズムを提案する。
複数の幾何モデルを用いることで精度が向上するアプリケーションをいくつか提示する。
これには、複数の一般化されたホモグラフからのポーズ推定、高速移動物体の軌道推定が含まれる。
論文 参考訳（メタデータ） (2021-03-25T14:35:07Z) - High-Dimensional Bayesian Optimization via Nested Riemannian Manifolds [0.0]
本研究では,様々な領域によく現れる非ユークリッド探索空間の幾何学を利用して,構造保存写像を学習することを提案する。
我々のアプローチは、ネストした多様体の埋め込みを共同で学習する幾何学的ガウス過程と、潜在空間における目的関数の表現を特徴付ける。
論文 参考訳（メタデータ） (2020-10-21T11:24:11Z) - Mix Dimension in Poincar\'{e} Geometry for 3D Skeleton-based Action
Recognition [57.98278794950759]
グラフ畳み込みネットワーク(GCN)はすでに、不規則なデータをモデル化する強力な能力を実証している。
本稿では,ポアンカー幾何学を用いて定義した空間時空間GCNアーキテクチャを提案する。
提案手法を,現在最大規模の2つの3次元データセット上で評価する。
論文 参考訳（メタデータ） (2020-07-30T18:23:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。