論文の概要: Efficient Manifold-Constrained Neural ODE for High-Dimensional Datasets

• arxiv url: http://arxiv.org/abs/2510.04138v1
• Date: Sun, 05 Oct 2025 10:36:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-07 16:52:59.483188
• Title: Efficient Manifold-Constrained Neural ODE for High-Dimensional Datasets
• Title（参考訳）: 高次元データセットのための効率的なマニフォールド制約ニューラルネットワーク
• Authors: Muhao Guo, Haoran Li, Yang Weng,
• Abstract要約: 本稿では, ODE プロセスを制限するために, 基礎となる多様体を探索する新しい手法を提案する。 具体的には、構造保存エンコーダを用いてデータを処理し、基礎となるグラフを見つけ、多様体を近似する。 本結果は,高次元データセットの課題に対処する上でのアプローチの有効性を裏付けるものであり,優れた性能を示すものである。
• 参考スコア（独自算出の注目度）: 8.436711484752365
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural ordinary differential equations (NODE) have garnered significant attention for their design of continuous-depth neural networks and the ability to learn data/feature dynamics. However, for high-dimensional systems, estimating dynamics requires extensive calculations and suffers from high truncation errors for the ODE solvers. To address the issue, one intuitive approach is to consider the non-trivial topological space of the data distribution, i.e., a low-dimensional manifold. Existing methods often rely on knowledge of the manifold for projection or implicit transformation, restricting the ODE solutions on the manifold. Nevertheless, such knowledge is usually unknown in realistic scenarios. Therefore, we propose a novel approach to explore the underlying manifold to restrict the ODE process. Specifically, we employ a structure-preserved encoder to process data and find the underlying graph to approximate the manifold. Moreover, we propose novel methods to combine the NODE learning with the manifold, resulting in significant gains in computational speed and accuracy. Our experimental evaluations encompass multiple datasets, where we compare the accuracy, number of function evaluations (NFEs), and convergence speed of our model against existing baselines. Our results demonstrate superior performance, underscoring the effectiveness of our approach in addressing the challenges of high-dimensional datasets.
• Abstract（参考訳）: ニューラル常微分方程式(NODE)は、連続深度ニューラルネットワークの設計とデータ/機能力学を学習する能力に大きな注目を集めている。 しかし、高次元システムでは、力学を推定するには広範な計算が必要であり、ODEソルバの高いトラルニケート誤差に悩まされる。 この問題に対処するために、直感的なアプローチは、データ分布の非自明な位相空間、すなわち低次元多様体を考えることである。 既存の方法はしばしば射影や暗黙的な変換のために多様体の知識に依存し、多様体上のODE解を制限する。 しかしながら、そのような知識は通常現実的なシナリオでは未知である。 そこで本研究では, ODE プロセスを制限するために, 基礎となる多様体を探索する新しい手法を提案する。 具体的には、構造保存エンコーダを用いてデータを処理し、基礎となるグラフを見つけ、多様体を近似する。 さらに,NODE学習を多様体と組み合わせることで,計算速度と精度を大幅に向上させる手法を提案する。 実験的な評価は複数のデータセットを含み、精度、機能評価数(NFE)、モデルの収束速度を既存のベースラインと比較する。 本結果は,高次元データセットの課題に対処する上でのアプローチの有効性を裏付けるものであり,優れた性能を示すものである。

関連論文リスト

• Learning functions through Diffusion Maps [0.6768558752130311]
  我々は、多様体仮説に基づいて拡散マップフレームワークを構築した。 距離行列の低ランク構造に基づく次元減少戦略を導入する。 オンライン更新機構は、新しいデータの効率的な取り込みを可能にする。
  論文  参考訳（メタデータ） (2025-09-03T22:57:33Z)
• Physics-informed deep learning and compressive collocation for high-dimensional diffusion-reaction equations: practical existence theory and numerics [5.380276949049726]
  ディープラーニング(DL)に基づく高次元偏微分方程式の効率的な解法の開発と解析 理論的にも数値的にも,新しい安定かつ高精度なスペクトルコロケーション法と競合できることを示す。
  論文  参考訳（メタデータ） (2024-06-03T17:16:11Z)
• VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
  深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。 ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。 本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-04-03T13:13:19Z)
• Score-based Diffusion Models in Function Space [137.70916238028306]
  拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。 この研究は、関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)と呼ばれる数学的に厳密なフレームワークを導入する。 データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
  論文  参考訳（メタデータ） (2023-02-14T23:50:53Z)
• Truncated tensor Schatten p-norm based approach for spatiotemporal traffic data imputation with complicated missing patterns [77.34726150561087]
  本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。 本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
  論文  参考訳（メタデータ） (2022-05-19T08:37:56Z)
• Distributional Gradient Matching for Learning Uncertain Neural Dynamics Models [38.17499046781131]
  本稿では,数値積分ボトルネックを回避するため,不確実なニューラル・オーダを推定するための新しい手法を提案する。 我々のアルゴリズム - 分布勾配マッチング (DGM) は、よりスムーズなモデルと動的モデルを共同で訓練し、ワッサーシュタイン損失を最小化することでそれらの勾配と一致する。 数値積分に基づく従来の近似推論手法と比較して,我々の手法は訓練がより速く,これまで見つからなかった軌道の予測がより高速であり,ニューラルODEの文脈では,はるかに正確であることがわかった。
  論文  参考訳（メタデータ） (2021-06-22T08:40:51Z)
• Rank-R FNN: A Tensor-Based Learning Model for High-Order Data Classification [69.26747803963907]
  Rank-R Feedforward Neural Network (FNN)は、そのパラメータにCanonical/Polyadic分解を課すテンソルベースの非線形学習モデルである。 まず、入力をマルチリニアアレイとして扱い、ベクトル化の必要性を回避し、すべてのデータ次元に沿って構造情報を十分に活用することができる。 Rank-R FNNの普遍的な近似と学習性の特性を確立し、実世界のハイパースペクトルデータセットのパフォーマンスを検証する。
  論文  参考訳（メタデータ） (2021-04-11T16:37:32Z)
• Multipole Graph Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
  物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。 線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。 実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
  論文  参考訳（メタデータ） (2020-06-16T21:56:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。