論文の概要: Control, Optimal Transport and Neural Differential Equations in Supervised Learning
- arxiv url: http://arxiv.org/abs/2503.15105v3
- Date: Mon, 19 May 2025 10:04:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-20 17:08:52.453894
- Title: Control, Optimal Transport and Neural Differential Equations in Supervised Learning
- Title(参考訳): 教師付き学習における制御・最適輸送・ニューラル微分方程式
- Authors: Minh-Nhat Phung, Minh-Binh Tran,
- Abstract要約: ニューラル微分方程式を用いた最適輸送方程式の近似に関する基礎計算問題(ニューラルODE)について検討する。
ニューラルネットワークを用いた不均衡最適輸送(UOT)を連続体に近似する新しいフレームワークを開発した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study the fundamental computational problem of approximating optimal transport (OT) equations using neural differential equations (Neural ODEs). More specifically, we develop a novel framework for approximating unbalanced optimal transport (UOT) in the continuum using Neural ODEs. By generalizing a discrete UOT problem with Pearson divergence, we constructively design vector fields for Neural ODEs that converge to the true UOT dynamics, thereby advancing the mathematical foundations of computational transport and machine learning. To this end, we design a numerical scheme inspired by the Sinkhorn algorithm to solve the corresponding minimization problem and rigorously prove its convergence, providing explicit error estimates. From the obtained numerical solutions, we derive vector fields defining the transport dynamics and construct the corresponding transport equation. Finally, from the numerically obtained transport equation, we construct a neural differential equation whose flow converges to the true transport dynamics in an appropriate limiting regime.
- Abstract(参考訳): ニューラル微分方程式 (Neural ODEs) を用いた最適輸送方程式 (OT) の近似に関する基礎計算問題について検討する。
より具体的には、ニューラルODEを用いた連続体における不均衡最適輸送(UOT)を近似するための新しいフレームワークを開発する。
Pearson の発散による離散 UOT 問題を一般化することにより、真の UOT 力学に収束するニューラル ODE のベクトル場を構成的に設計し、計算輸送と機械学習の数学的基礎を前進させる。
この目的のために、シンクホーンアルゴリズムにインスパイアされた数値スキームを設計し、対応する最小化問題を解き、その収束性を厳密に証明し、明示的な誤差推定を提供する。
得られた数値解から、輸送力学を定義するベクトル場を導出し、対応する輸送方程式を構築する。
最後に、数値的に得られた輸送方程式から、適切な制限条件下での真の輸送力学に流れが収束する神経微分方程式を構築する。
関連論文リスト
- Proximal optimal transport divergences [6.6875717609310765]
不完全な畳み込みの定式化により,情報分岐と最適輸送距離を補間する新しい相違尺度である,近位最適輸送発散を導入する。
本研究では, 滑らかさ, 有界性, 計算的トラクタビリティなどの数学的性質を探求し, 原始双対の定式化と対角学習との関連性を確立する。
提案フレームワークは,生成モデル,分布最適化,確率空間における勾配学習のための新たな洞察と計算ツールを提供しながら,既存のアプローチを一般化する。
論文 参考訳(メタデータ) (2025-05-17T17:48:11Z) - Training Neural ODEs Using Fully Discretized Simultaneous Optimization [2.290491821371513]
ニューラルネットワークの正規微分方程式(Neural ODEs)の学習には、各エポックにおける微分方程式の解法が必要であるため、計算コストが高い。
特に、コロケーションに基づく完全に離散化された定式化を採用し、大規模な非線形最適化にIPOPT-aソルバを用いる。
この結果から,(コロケーションをベースとした)同時ニューラルODE訓練パイプラインの可能性が示唆された。
論文 参考訳(メタデータ) (2025-02-21T18:10:26Z) - Convex Physics Informed Neural Networks for the Monge-Ampère Optimal Transport Problem [49.1574468325115]
補給業者から顧客への原料の最適輸送は、物流における問題である。
ここでは、対応する一般化モンジュ・アンペア方程式の解を求める物理情報ニューラルネットワーク法が提唱されている。
特に、損失関数における輸送境界条件の実施に焦点が当てられている。
論文 参考訳(メタデータ) (2025-01-17T12:51:25Z) - A Mathematical Analysis of Neural Operator Behaviors [0.0]
本稿では,ニューラルネットワークの動作を分析するための厳密な枠組みを提案する。
我々はそれらの安定性、収束性、クラスタリングダイナミクス、普遍性、一般化誤差に焦点を当てる。
我々は,ニューラル演算子に基づく手法の今後の設計のために,単一設定で明確かつ統一的なガイダンスを提供することを目指している。
論文 参考訳(メタデータ) (2024-10-28T19:38:53Z) - Optimal Transportation by Orthogonal Coupling Dynamics [0.0]
本稿では,プロジェクション型勾配勾配法に基づくモンゲ・カントロビッチ問題に対処する新しい枠組みを提案する。
マイクロダイナミクスは条件付き期待の概念に基づいて構築され、そこでは意見力学との関係を探求する。
提案手法は,計算性能がよいランダムマップを復元できることを実証する。
論文 参考訳(メタデータ) (2024-10-10T15:53:48Z) - Solving Poisson Equations using Neural Walk-on-Spheres [80.1675792181381]
高次元ポアソン方程式の効率的な解法としてニューラルウォーク・オン・スフェース(NWoS)を提案する。
我々は,NWoSの精度,速度,計算コストにおける優位性を実証した。
論文 参考訳(メタデータ) (2024-06-05T17:59:22Z) - A minimax optimal control approach for robust neural ODEs [44.99833362998488]
我々は、頑健な制御の観点から、ニューラルなODEの敵対的訓練に対処する。
我々はポントリャーギンの最大原理の形で一階最適条件を導出する。
論文 参考訳(メタデータ) (2023-10-26T17:07:43Z) - A Computational Framework for Solving Wasserstein Lagrangian Flows [48.87656245464521]
一般に、最適密度経路は未知であり、これらの変動問題の解法は計算的に困難である。
本稿では,これらすべての問題に統一的な視点からアプローチする,新しいディープラーニングベースのフレームワークを提案する。
提案手法は, 単セル軌道推定における従来の手法より優れていることを示す。
論文 参考訳(メタデータ) (2023-10-16T17:59:54Z) - Physics-constrained neural differential equations for learning
multi-ionic transport [0.0]
我々は,ポリアミドナノ孔間のイオン輸送挙動を学習する物理インフォームド深層学習モデルを開発した。
ニューラル・ディファレンシャル・方程式を古典的閉包モデルと組み合わせて、ニューラル・フレームワークに直接帰納バイアスとして利用する。
論文 参考訳(メタデータ) (2023-03-07T17:18:52Z) - NeuralStagger: Accelerating Physics-constrained Neural PDE Solver with
Spatial-temporal Decomposition [67.46012350241969]
本稿では,NeuralStaggerと呼ばれる一般化手法を提案する。
元の学習タスクをいくつかの粗い解像度のサブタスクに分解する。
本稿では,2次元および3次元流体力学シミュレーションにおけるNeuralStaggerの適用例を示す。
論文 参考訳(メタデータ) (2023-02-20T19:36:52Z) - Neural Conservation Laws: A Divergence-Free Perspective [36.668126758052814]
本稿では、微分形式の概念を用いて、分散のないニューラルネットワークを構築することを提案する。
これらのモデルが普遍的であることを証明し、任意の発散自由ベクトル場を表現するために使うことができる。
論文 参考訳(メタデータ) (2022-10-04T17:01:53Z) - Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。
MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。
本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
論文 参考訳(メタデータ) (2022-06-29T22:19:03Z) - Online Learning to Transport via the Minimal Selection Principle [2.3857747529378917]
決定変数が凸, 三次元オブジェクトであるオンライン学習輸送(OLT)問題について検討する。
我々は、平均場と離散化技術を用いてORT問題を解決するために、最小選択探索法(SoMLT)と呼ばれる新しい手法を導出した。
論文 参考訳(メタデータ) (2022-02-09T21:25:58Z) - Incorporating NODE with Pre-trained Neural Differential Operator for
Learning Dynamics [73.77459272878025]
ニューラル微分演算子(NDO)の事前学習による動的学習における教師付き信号の強化を提案する。
NDOは記号関数のクラスで事前訓練され、これらの関数の軌跡サンプルとそれらの導関数とのマッピングを学習する。
我々は,NDOの出力が,ライブラリの複雑さを適切に調整することで,基礎となる真理微分を適切に近似できることを理論的に保証する。
論文 参考訳(メタデータ) (2021-06-08T08:04:47Z) - Fourier Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
積分カーネルを直接フーリエ空間でパラメータ化することで、新しいニューラル演算子を定式化する。
バーガースの方程式、ダーシー流、ナビエ・ストークス方程式の実験を行う。
従来のPDEソルバに比べて最大3桁高速である。
論文 参考訳(メタデータ) (2020-10-18T00:34:21Z) - Developing Constrained Neural Units Over Time [81.19349325749037]
本稿では,既存のアプローチと異なるニューラルネットワークの定義方法に焦点をあてる。
ニューラルネットワークの構造は、データとの相互作用にも拡張される制約の特別なクラスによって定義される。
提案した理論は時間領域にキャストされ, データを順序づけられた方法でネットワークに提示する。
論文 参考訳(メタデータ) (2020-09-01T09:07:25Z) - Generalization bound of globally optimal non-convex neural network
training: Transportation map estimation by infinite dimensional Langevin
dynamics [50.83356836818667]
本稿では,ディープラーニングの最適化を一般化誤差と関連づけて解析する理論フレームワークを提案する。
ニューラルネットワーク最適化分析のための平均場理論やニューラル・タンジェント・カーネル理論のような既存のフレームワークは、そのグローバル収束を示すために、ネットワークの無限幅の限界を取る必要がある。
論文 参考訳(メタデータ) (2020-07-11T18:19:50Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳(メタデータ) (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。