論文の概要: On interpretability and proper latent decomposition of autoencoders
- arxiv url: http://arxiv.org/abs/2211.08345v1
- Date: Tue, 15 Nov 2022 17:55:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-16 16:21:01.267234
- Title: On interpretability and proper latent decomposition of autoencoders
- Title(参考訳): オートエンコーダの解釈可能性と固有潜在分解について
- Authors: Luca Magri and Anh Khoa Doan
- Abstract要約: 本稿では,オートエンコーダの変換を理論的に解釈する。
我々は、多様体の数学的記述を提供する計量テンソルを数学的に導出する。
本稿では, 自己エンコーダ潜時空間上の乱流の適切な分解を一般化する手法として, 適切な潜時分解法(PLD)を提案する。
- 参考スコア(独自算出の注目度): 6.85316573653194
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The dynamics of a turbulent flow tend to occupy only a portion of the phase
space at a statistically stationary regime. From a dynamical systems point of
view, this portion is the attractor. The knowledge of the turbulent attractor
is useful for two purposes, at least: (i) We can gain physical insight into
turbulence (what is the shape and geometry of the attractor?), and (ii) it
provides the minimal number of degrees of freedom to accurately describe the
turbulent dynamics. Autoencoders enable the computation of an optimal latent
space, which is a low-order representation of the dynamics. If properly trained
and correctly designed, autoencoders can learn an approximation of the
turbulent attractor, as shown by Doan, Racca and Magri (2022). In this paper,
we theoretically interpret the transformations of an autoencoder. First, we
remark that the latent space is a curved manifold with curvilinear coordinates,
which can be analyzed with simple tools from Riemann geometry. Second, we
characterize the geometrical properties of the latent space. We mathematically
derive the metric tensor, which provides a mathematical description of the
manifold. Third, we propose a method -- proper latent decomposition (PLD) --
that generalizes proper orthogonal decomposition of turbulent flows on the
autoencoder latent space. This decomposition finds the dominant directions in
the curved latent space. This theoretical work opens up computational
opportunities for interpreting autoencoders and creating reduced-order models
of turbulent flows.
- Abstract(参考訳): 乱流のダイナミクスは、統計的に定常的な状態において位相空間の一部のみを占める傾向がある。
動的システムの観点からすると、この部分が引き金になります。
乱流引力の知識は、少なくとも2つの目的に有用である。
(i)乱流(アトラクタの形状と形状は何か)の物理的洞察を得ることができ、また
(ii)乱流力学を正確に記述するための自由度が最小となる。
オートエンコーダは、ダイナミクスの低階表現である最適潜在空間の計算を可能にする。
適切に訓練され、正しく設計されたオートエンコーダは、Doan, Racca and Magri (2022) が示すように、乱流の引力の近似を学習することができる。
本稿では,オートエンコーダの変換を理論的に解釈する。
まず、潜在空間は曲線座標を持つ曲面多様体であり、リーマン幾何学の簡単なツールを用いて解析することができることを述べる。
第二に、潜在空間の幾何学的性質を特徴づける。
我々は、多様体の数学的記述を提供する計量テンソルを数学的に導出する。
第3に,自己エンコーダ潜在空間上の乱流の固有直交分解を一般化する手法である固有潜時分解(pld)を提案する。
この分解は、曲線付き潜在空間における支配的な方向を見つける。
この理論的研究は、オートエンコーダを解釈し、乱流の低次モデルを作成するための計算機会を開く。
関連論文リスト
- Variational autoencoders with latent high-dimensional steady geometric flows for dynamics [0.0]
我々はPDE型環境データに対する変分オートエンコーダ(VAE)の手法を開発し,幾何学的潜在力学を規則化する。
エンコーダとデコーダによって開発された中間ラテント空間において,幾何学的流れを考慮した多様体幾何学が学習されるようなVAEフレームワークを再開発する。
興味のあるデータセットで、我々の手法は、少なくとも従来のVAEと同様にパフォーマンスが良く、しばしばより良くなることを示す。
論文 参考訳(メタデータ) (2024-10-14T04:07:45Z) - Decoder Decomposition for the Analysis of the Latent Space of Nonlinear Autoencoders With Wind-Tunnel Experimental Data [3.7960472831772765]
本研究の目的は,オートエンコーダの解釈可能性向上を支援する手法を提案することである。
本稿では,遅延変数をフローのコヒーレントな構造に接続するための後処理法であるデコーダ分解を提案する。
遅延変数のランク付けと選択は、非線形オートエンコーダの設計と解釈に役立つ。
論文 参考訳(メタデータ) (2024-04-25T10:09:37Z) - Topological Obstructions and How to Avoid Them [22.45861345237023]
局所最適性は特異点や不正確な次数や巻数によって生じる可能性があることを示す。
本稿では,データポイントを幾何学空間上のマルチモーダル分布にマッピングするフローベースモデルを提案する。
論文 参考訳(メタデータ) (2023-12-12T18:56:14Z) - Alignment and Outer Shell Isotropy for Hyperbolic Graph Contrastive
Learning [69.6810940330906]
高品質なグラフ埋め込みを学習するための新しいコントラスト学習フレームワークを提案する。
具体的には、階層的なデータ不変情報を効果的にキャプチャするアライメントメトリックを設計する。
双曲空間において、木の性質に関連する葉と高さの均一性に対処する必要があることを示す。
論文 参考訳(メタデータ) (2023-10-27T15:31:42Z) - Curve Your Attention: Mixed-Curvature Transformers for Graph
Representation Learning [77.1421343649344]
本稿では,一定曲率空間の積を完全に操作するトランスフォーマーの一般化を提案する。
また、非ユークリッド注意に対するカーネル化されたアプローチを提供し、ノード数とエッジ数に線形に時間とメモリコストでモデルを実行できるようにします。
論文 参考訳(メタデータ) (2023-09-08T02:44:37Z) - Third quantization of open quantum systems: new dissipative symmetries
and connections to phase-space and Keldysh field theory formulations [77.34726150561087]
3つの方法全てを明示的に接続する方法で第3量子化の手法を再構成する。
まず、我々の定式化は、すべての二次ボゾンあるいはフェルミオンリンドブラディアンに存在する基本散逸対称性を明らかにする。
ボソンに対して、ウィグナー関数と特徴関数は密度行列の「波動関数」と考えることができる。
論文 参考訳(メタデータ) (2023-02-27T18:56:40Z) - Convolutional autoencoder for the spatiotemporal latent representation
of turbulence [5.8010446129208155]
乱流の潜在表現を得るために3次元多次元畳み込みオートエンコーダ(CAE)を用いる。
マルチスケールCAEは効率が良く、データを圧縮するための適切な分解よりも10%以下の自由度を必要とする。
提案したディープラーニングアーキテクチャは、データからの乱流の非線形低次モデリングの機会を開放する。
論文 参考訳(メタデータ) (2023-01-31T16:06:54Z) - Modelling spatiotemporal turbulent dynamics with the convolutional
autoencoder echo state network [5.8010446129208155]
乱流の力学はカオス的で予測が難しい
本稿では, 乱流状態の非線形分解法を提案する。
論文 参考訳(メタデータ) (2022-11-21T11:49:57Z) - Shape And Structure Preserving Differential Privacy [70.08490462870144]
正方形距離関数の勾配がラプラス機構よりも感度をよりよく制御できることを示す。
また,2乗距離関数の勾配を用いることで,ラプラス機構よりも感度を制御できることを示す。
論文 参考訳(メタデータ) (2022-09-21T18:14:38Z) - Estimating Koopman operators for nonlinear dynamical systems: a
nonparametric approach [77.77696851397539]
Koopman演算子は非線形系の線形記述を可能にする数学的ツールである。
本稿では,その核となる部分を同一フレームワークのデュアルバージョンとして捉え,それらをカーネルフレームワークに組み込む。
カーネルメソッドとKoopman演算子との強力なリンクを確立し、Kernel関数を通じて後者を推定する。
論文 参考訳(メタデータ) (2021-03-25T11:08:26Z) - Manifold Learning via Manifold Deflation [105.7418091051558]
次元削減法は、高次元データの可視化と解釈に有用な手段を提供する。
多くの一般的な手法は単純な2次元のマニフォールドでも劇的に失敗する。
本稿では,グローバルな構造を座標として組み込んだ,新しいインクリメンタルな空間推定器の埋め込み手法を提案する。
実験により,本アルゴリズムは実世界および合成データセットに新規で興味深い埋め込みを復元することを示した。
論文 参考訳(メタデータ) (2020-07-07T10:04:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。