論文の概要: Feature-Based Interpolation and Geodesics in the Latent Spaces of
Generative Models
- arxiv url: http://arxiv.org/abs/1904.03445v3
- Date: Mon, 13 Mar 2023 10:28:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-25 04:41:40.364153
- Title: Feature-Based Interpolation and Geodesics in the Latent Spaces of
Generative Models
- Title(参考訳): 生成モデルの潜在空間における特徴に基づく補間と測地学
- Authors: {\L}ukasz Struski, Micha{\l} Sadowski, Tomasz Danel, Jacek Tabor, Igor
T. Podolak
- Abstract要約: 点間の補間は測地学の発見と生成モデルの研究と同時に関係する問題である。
任意の密度の場合の潜在空間における測地線と補間曲線を同時に探索できる例を提供する。
- 参考スコア(独自算出の注目度): 10.212371817325065
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Interpolating between points is a problem connected simultaneously with
finding geodesics and study of generative models. In the case of geodesics, we
search for the curves with the shortest length, while in the case of generative
models we typically apply linear interpolation in the latent space. However,
this interpolation uses implicitly the fact that Gaussian is unimodal. Thus the
problem of interpolating in the case when the latent density is non-Gaussian is
an open problem.
In this paper, we present a general and unified approach to interpolation,
which simultaneously allows us to search for geodesics and interpolating curves
in latent space in the case of arbitrary density. Our results have a strong
theoretical background based on the introduced quality measure of an
interpolating curve. In particular, we show that maximising the quality measure
of the curve can be equivalently understood as a search of geodesic for a
certain redefinition of the Riemannian metric on the space.
We provide examples in three important cases. First, we show that our
approach can be easily applied to finding geodesics on manifolds. Next, we
focus our attention in finding interpolations in pre-trained generative models.
We show that our model effectively works in the case of arbitrary density.
Moreover, we can interpolate in the subset of the space consisting of data
possessing a given feature. The last case is focused on finding interpolation
in the space of chemical compounds.
- Abstract(参考訳): 点間の補間は測地線の発見と生成モデルの研究と同時に結びついた問題である。
測地線の場合、最も短い長さの曲線を探索するが、生成モデルの場合、典型的には潜在空間に線形補間を適用する。
しかし、この補間はガウスがユニモダルであるという事実を暗黙的に用いている。
したがって、潜在密度が非ガウス的である場合に補間する問題は開問題である。
本稿では,任意の密度の場合の静止空間における測地線と補間曲線を同時に探索する,補間に対する汎用的で統一的なアプローチを提案する。
本研究の結果は補間曲線の品質指標に基づく理論的背景を持つ。
特に、曲線の品質測度を最大化することは、空間上のリーマン計量のある種の再定義に対する測地線の探索として等価に理解できることを示す。
3つの重要な事例に例を挙げる。
まず,本手法は多様体上の測地線の発見に容易に適用できることを示す。
次に、事前学習された生成モデルにおける補間を見つけることに留意する。
任意の密度の場合,モデルが効果的に機能することを示す。
さらに、与えられた特徴を持つデータからなる空間の部分集合に補間することができる。
最後のケースは、化合物の空間における補間を見つけることに焦点を当てている。
関連論文リスト
- Improving embedding of graphs with missing data by soft manifolds [51.425411400683565]
グラフ埋め込みの信頼性は、連続空間の幾何がグラフ構造とどの程度一致しているかに依存する。
我々は、この問題を解決することができる、ソフト多様体と呼ばれる新しい多様体のクラスを導入する。
グラフ埋め込みにソフト多様体を用いることで、複雑なデータセット上のデータ解析における任意のタスクを追求するための連続空間を提供できる。
論文 参考訳(メタデータ) (2023-11-29T12:48:33Z) - Scaling Riemannian Diffusion Models [68.52820280448991]
非自明な多様体上の高次元タスクにスケールできることを示す。
我々は、$SU(n)$格子上のQCD密度と高次元超球面上の対照的に学習された埋め込みをモデル化する。
論文 参考訳(メタデータ) (2023-10-30T21:27:53Z) - Gradient-Based Feature Learning under Structured Data [57.76552698981579]
異方性設定では、一般的に使用される球面勾配力学は真の方向を回復できないことがある。
バッチ正規化を連想させる適切な重み正規化は、この問題を軽減することができることを示す。
特に、スパイクモデルの下では、勾配に基づくトレーニングのサンプルの複雑さは情報指数とは独立にできる。
論文 参考訳(メタデータ) (2023-09-07T16:55:50Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Short and Straight: Geodesics on Differentiable Manifolds [6.85316573653194]
本研究では,測地線長を最小化するための既存の手法をまず解析する。
次に,連続多様体上の距離場と測地流のモデルに基づくパラメータ化を提案する。
第3に,Ricciスカラーのより大きい値を示す多様体の領域において,曲率に基づくトレーニング機構,サンプリングおよびスケーリングポイントを開発する。
論文 参考訳(メタデータ) (2023-05-24T15:09:41Z) - Approximating a RUM from Distributions on k-Slates [88.32814292632675]
与えられた分布を平均で最もよく近似するRUMを求める一般化時間アルゴリズムを求める。
我々の理論的結果は、実世界のデータセットに効果的でスケール可能なものを得るという、実践的な結果も得られます。
論文 参考訳(メタデータ) (2023-05-22T17:43:34Z) - Unveiling the Sampling Density in Non-Uniform Geometric Graphs [69.93864101024639]
グラフを幾何学グラフとみなす: ノードは基礎となる計量空間からランダムにサンプリングされ、その距離が指定された近傍半径以下であれば任意のノードが接続される。
ソーシャルネットワークでは、コミュニティは密集したサンプル領域としてモデル化でき、ハブはより大きな近傍半径を持つノードとしてモデル化できる。
我々は,未知のサンプリング密度を自己監督的に推定する手法を開発した。
論文 参考訳(メタデータ) (2022-10-15T08:01:08Z) - Geodesic Models with Convexity Shape Prior [8.932981695464761]
本稿では, より複雑な問題として, 凸形状を持つ曲率ペナル化された測地線経路の発見について考察する。
配向リフトの戦略に依存する新しい測地モデルを構築した。
凸形状は、曲率の制約を符号化した局所測地線メトリクスの構築のための制約として機能する。
論文 参考訳(メタデータ) (2021-11-01T09:41:54Z) - On Linear Interpolation in the Latent Space of Deep Generative Models [0.0]
潜在空間における線形の滑らかさと可視性は、基礎となる生成モデルの品質と関連している。
測地線が与える最短曲線から任意に逸脱できるので、そのような曲線がすべて同値であるとは限らない。
この偏差は、生成モデルのプルバックメトリックによる曲線長の計算によって明らかにされる。
論文 参考訳(メタデータ) (2021-05-08T10:27:07Z) - Identifying the latent space geometry of network models through analysis
of curvature [7.644165047073435]
本稿では,可換空間の経験的に関連するクラスから多様体の種類,次元,曲率を一貫して推定する手法を提案する。
私たちのコアインサイトは、このグラフを、シリック間の結びつきに基づく騒々しい距離行列として表現することで実現します。
論文 参考訳(メタデータ) (2020-12-19T00:35:29Z) - Uniform Interpolation Constrained Geodesic Learning on Data Manifold [28.509561636926414]
学習された測地線とともに、2つのデータサンプル間で高品質なデータを生成することができる。
提案手法の有効性を実証するために, モデルの理論解析を行い, 画像翻訳を例に挙げる。
論文 参考訳(メタデータ) (2020-02-12T07:47:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。