論文の概要: Geometric regularization of autoencoders via observed stochastic dynamics
- arxiv url: http://arxiv.org/abs/2604.16282v1
- Date: Fri, 17 Apr 2026 17:44:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-20 22:00:20.035933
- Title: Geometric regularization of autoencoders via observed stochastic dynamics
- Title(参考訳): 観測確率力学によるオートエンコーダの幾何学的正則化
- Authors: Sean Hill, Felix X. -F. Ye,
- Abstract要約: ATLASのようなローカルチャートの手法は、指数的ランドマークのスケーリングとステップごとの再プロジェクションに悩まされている。
オートエンコーダの代替品は、タンジェント・タンジェント・ジオメトリーをあまり制約しないままにしておく。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Stochastic dynamical systems with slow or metastable behavior evolve, on long time scales, on an unknown low-dimensional manifold in high-dimensional ambient space. Building a reduced simulator from short-burst ambient ensembles is a long-standing problem: local-chart methods like ATLAS suffer from exponential landmark scaling and per-step reprojection, while autoencoder alternatives leave tangent-bundle geometry poorly constrained, and the errors propagate into the learned drift and diffusion. We observe that the ambient covariance~$Λ$ already encodes coordinate-invariant tangent-space information, its range spanning the tangent bundle. Using this, we construct a tangent-bundle penalty and an inverse-consistency penalty for a three-stage pipeline (chart learning, latent drift, latent diffusion) that learns a single nonlinear chart and the latent SDE. The penalties induce a function-space metric, the $ρ$-metric, strictly weaker than the Sobolev $H^1$ norm yet achieving the same chart-quality generalization rate up to logarithmic factors. For the drift, we derive an encoder-pullback target via Itô's formula on the learned encoder and prove a bias decomposition showing the standard decoder-side formula carries systematic error for any imperfect chart. Under a $W^{2,\infty}$ chart-convergence assumption, chart-level error propagates controllably to weak convergence of the ambient dynamics and to convergence of radial mean first-passage times. Experiments on four surfaces embedded in up to $201$ ambient dimensions reduce radial MFPT error by $50$--$70\%$ under rotation dynamics and achieve the lowest inter-well MFPT error on most surface--transition pairs under metastable Müller--Brown Langevin dynamics, while reducing end-to-end ambient coefficient errors by up to an order of magnitude relative to an unregularized autoencoder.
- Abstract(参考訳): 遅いあるいは準安定な振る舞いを持つ確率力学系は、高次元空間における未知の低次元多様体上で、長い時間スケールで進化する。
ATLASのような局所チャート法は、指数的に目覚ましいスケーリングとステップごとの再投射に悩まされ、オートエンコーダの代替手段はタンジェントバンドル幾何学の制約を弱め、エラーは学習されたドリフトと拡散に伝播する。
周辺共分散~$$$はすでに座標不変な接空間情報を符号化しており、その範囲は接束にまたがっている。
これを用いて,1つの非線形チャートと潜時SDEを学習する3段階パイプライン(チャート学習,潜時ドリフト,潜時拡散)に対して,タンジェントバンドルペナルティと逆整合ペナルティを構築する。
ペナルティは函数空間の計量である$ρ$-メトリックをソボレフの$H^1$ノルムより厳密に弱めるが、同じチャート品質の一般化率を対数因子まで達成する。
ドリフトに対して、学習エンコーダ上のイトーの公式を介してエンコーダ-プルバックターゲットを導出し、標準デコーダ側の公式が任意の不完全チャートに対して体系的誤差を持つことを示す。
W^{2,\infty}$ チャート収束仮定の下で、チャートレベルの誤差は、周囲のダイナミクスの弱い収束と放射平均1回通過時間の収束に制御的に伝播する。
最大201ドルの周囲次元に埋め込まれた4面の実験は、回転力学下での半径 MFPT 誤差を50$--70$% 削減し、準安定Müller--Brown Langevin 力学の下でのほとんどの表面遷移対における最も低いウェル間 MFPT 誤差を達成する。
関連論文リスト
- Minimax Optimality and Spectral Routing for Majority-Vote Ensembles under Markov Dependence [6.908972852063454]
主要声楽アンサンブルは、多種多様なほぼ独立した基礎学習者に対して平均化することにより、ばらつきの低減を実現する。
固定次元マルコフ集合における離散的な分類のために、この現象のミニマックス的特徴付けを行う。
合成マルコフ連鎖、2次元空間格子、128データセットのUCRアーカイブ、アタリDQNアンサンブルに関する実験は、理論的な予測を検証している。
論文 参考訳(メタデータ) (2026-04-15T02:32:30Z) - Adaptive Probability Flow Residual Minimization for High-Dimensional Fokker-Planck Equations [14.22534820071447]
高次元のフォッカー・プランク方程式を解くことは、計算物理学と力学の課題である。
物理情報ニューラルネットワークのような既存のディープラーニングアプローチは、次元が増加するにつれて計算上の課題に直面している。
本稿では,適応確率フロー残差最小化法(A-PFRM)を提案する。
論文 参考訳(メタデータ) (2025-12-22T09:31:31Z) - Learning vertical coordinates via automatic differentiation of a dynamical core [39.817742239477255]
本稿では,パラメトリックな垂直座標系を動的コア内の学習可能なコンポーネントとして定義する枠組みを提案する。
アラカワCグリッド上の2次元非静水性方程式に対するエンドツーエンドの微分可能な数値解法を開発した。
これらの学習座標は、非線形統計ベンチマークにおいて平均2乗誤差を1.4倍から2倍に減少させることを示した。
論文 参考訳(メタデータ) (2025-12-19T18:31:07Z) - Implicit Augmentation from Distributional Symmetry in Turbulence Super-Resolution [2.4095472682599417]
標準的な畳み込みニューラルネットワーク(CNN)は、明示的な拡張や特殊なアーキテクチャを使わずに部分的に回転対称性を得られることを示す。
異方性が異なる3次元チャネルフローを用いて、より等方性中間平面データに基づいてトレーニングされたモデルが、より低い等方性誤差を実現する。
これらの結果は, 回転対称性が学習アルゴリズムに明示的に組み込まれなければならないこと, 乱流から直接得られることを明らかにする。
論文 参考訳(メタデータ) (2025-09-25T02:31:56Z) - Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。
非滑らかな正規化はしばしば機械学習タスクに組み込まれる。
本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-04-17T08:32:25Z) - Point Cloud Denoising With Fine-Granularity Dynamic Graph Convolutional Networks [58.050130177241186]
ノイズの摂動は、しばしば3次元の点雲を破損させ、表面の再構成、レンダリング、さらなる処理といった下流のタスクを妨げる。
本稿では,GDGCNと呼ばれる粒度動的グラフ畳み込みネットワークについて紹介する。
論文 参考訳(メタデータ) (2024-11-21T14:19:32Z) - On Single Index Models beyond Gaussian Data [45.875461749455994]
緩やかな高次元関数は、勾配-蛍光法の振舞いを研究するための豊富な枠組みとして生まれてきた。
この研究では、安定性と対称性の両方に反する可能性のあるガウス的な設定を超えて、この図の拡張を探求する。
本研究の主な成果は,高次元状態下での未知方向$theta*$を効率よく回収できることである。
論文 参考訳(メタデータ) (2023-07-28T20:52:22Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z) - Dynamical mean-field theory for stochastic gradient descent in Gaussian
mixture classification [25.898873960635534]
高次元景観を分類する単一層ニューラルネットワークにおける勾配降下(SGD)の閉学習ダイナミクスを解析する。
連続次元勾配流に拡張可能なプロトタイププロセスを定義する。
フルバッチ限界では、標準勾配流を回復する。
論文 参考訳(メタデータ) (2020-06-10T22:49:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。