論文の概要: Control, Transport and Sampling: Towards Better Loss Design
- arxiv url: http://arxiv.org/abs/2405.13731v2
- Date: Thu, 10 Oct 2024 17:16:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-11 14:29:01.031542
- Title: Control, Transport and Sampling: Towards Better Loss Design
- Title(参考訳): 制御, 輸送, サンプリング: より良い損失設計を目指して
- Authors: Qijia Jiang, David Nabergoj,
- Abstract要約: 我々は、最適制御されたダイナミクスを介して$nu$から$mu$への輸送に使用できる客観的関数を提案する。
我々は、パスワイズ・パースペクティブの重要性と、パス尺度における様々な最適条件が、有効なトレーニング損失の設計に果たす役割を強調した。
- 参考スコア(独自算出の注目度): 10.732151772173083
- License:
- Abstract: Leveraging connections between diffusion-based sampling, optimal transport, and stochastic optimal control through their shared links to the Schr\"odinger bridge problem, we propose novel objective functions that can be used to transport $\nu$ to $\mu$, consequently sample from the target $\mu$, via optimally controlled dynamics. We highlight the importance of the pathwise perspective and the role various optimality conditions on the path measure can play for the design of valid training losses, the careful choice of which offer numerical advantages in implementation. Basing the formalism on Schr\"odinger bridge comes with the additional practical capability of baking in inductive bias when it comes to Neural Network training.
- Abstract(参考訳): 拡散型サンプリング, 最適輸送, 確率的最適制御間の接続をシュリンガー橋問題との共有リンクを通じて活用し, 最適制御された動的解析により, $\nu$ から $\mu$ への輸送に使用できる新しい目的関数を提案する。
我々は,パスワイズ・パースペクティブの重要性と,パス尺度における様々な最適条件が,有効なトレーニング損失の設計に果たす役割を強調した。
Schr\"odinger Bridgeにフォーマリズムを組み込むには、ニューラルネットワークのトレーニングに関して、帰納的バイアスを焼く、という追加の実践的能力が伴う。
関連論文リスト
- Feedback Schrödinger Bridge Matching [21.5490272744586]
本稿では,新しい半教師付きマッチングフレームワークであるFeedback Schr"odinger Bridge Matching (FSBM)を紹介する。
FSBMは、事前整列されたペアのごく一部(データセット全体の8%未満)を状態フィードバックとして組み込んで、非結合サンプルのトランスポートマップを導出する。
FSBMがトレーニングを加速し、組み合わせたペアのガイダンスを活用することで一般化を促進することを実証した。
論文 参考訳(メタデータ) (2024-10-17T21:52:01Z) - BM$^2$: Coupled Schrödinger Bridge Matching [4.831663144935879]
ニューラルネットワークを用いたSchr"odingerブリッジの学習のための,簡単なEmphnon-iterativeアプローチを提案する。
BM$2$の収束特性に関する予備的理論的解析を行い、数値実験で裏付ける。
論文 参考訳(メタデータ) (2024-09-14T08:57:46Z) - Plug-in estimation of Schrödinger bridges [15.685006881635209]
本稿では,2つの確率分布間のSchr"odingerブリッジを推定する手法を提案する。
EmphSinkhorn Bridge(英語版)と呼ばれる我々の提案は、目標測度の内在次元に依存する収束率で、確実にSchr"odinger Bridgeを推定することを示します。
論文 参考訳(メタデータ) (2024-08-21T15:07:25Z) - Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳(メタデータ) (2024-07-10T17:39:50Z) - Hallmarks of Optimization Trajectories in Neural Networks: Directional Exploration and Redundancy [75.15685966213832]
最適化トラジェクトリのリッチな方向構造をポイントワイズパラメータで解析する。
トレーニング中のスカラーバッチノルムパラメータは,ネットワーク全体のトレーニング性能と一致していることを示す。
論文 参考訳(メタデータ) (2024-03-12T07:32:47Z) - A Computational Framework for Solving Wasserstein Lagrangian Flows [48.87656245464521]
一般に、最適密度経路は未知であり、これらの変動問題の解法は計算的に困難である。
本稿では,これらすべての問題に統一的な視点からアプローチする,新しいディープラーニングベースのフレームワークを提案する。
提案手法は, 単セル軌道推定における従来の手法より優れていることを示す。
論文 参考訳(メタデータ) (2023-10-16T17:59:54Z) - Generalized Schrödinger Bridge Matching [54.171931505066]
一般化Schr"odinger Bridge (GSB) 問題設定は、機械学習の内外を問わず、多くの科学領域で一般的である。
我々は最近の進歩に触発された新しいマッチングアルゴリズムである一般化シュリンガーブリッジマッチング(GSBM)を提案する。
このような一般化は条件最適制御の解法として、変分近似を用いることができることを示す。
論文 参考訳(メタデータ) (2023-10-03T17:42:11Z) - Integrated Sensing, Computation, and Communication for UAV-assisted
Federated Edge Learning [52.7230652428711]
フェデレーションエッジ学習(FEEL)は、エッジデバイスとサーバ間の定期的な通信を通じて、プライバシ保護モデルトレーニングを可能にする。
無人航空機(UAV)搭載エッジデバイスは、効率的なデータ収集における柔軟性と移動性のため、FEELにとって特に有利である。
論文 参考訳(メタデータ) (2023-06-05T16:01:33Z) - Path Integral Sampler: a stochastic control approach for sampling [4.94950858749529]
非正規化確率密度関数からサンプルを抽出する新しいアルゴリズムであるPath Integral Sampler(PIS)を提案する。
PISは初期分布からサンプルを抽出し、シュリンガー橋を通じてサンプルを伝播して終端分布に達する。
我々は、準最適制御を用いる場合、ワッサーシュタイン距離の観点から、PSSのサンプリング品質を理論的に正当化する。
論文 参考訳(メタデータ) (2021-11-30T05:50:12Z) - Reinforcement Learning for Low-Thrust Trajectory Design of
Interplanetary Missions [77.34726150561087]
本稿では, 惑星間軌道のロバスト設計における強化学習の適用について検討する。
最先端アルゴリズムのオープンソース実装が採用されている。
その結果得られた誘導制御ネットワークは、堅牢な名目的軌道と関連する閉ループ誘導法の両方を提供する。
論文 参考訳(メタデータ) (2020-08-19T15:22:15Z) - Large-Scale Optimal Transport via Adversarial Training with
Cycle-Consistency [30.305690062622283]
本稿では,輸送マップを直接解き,一般コスト関数と互換性のある大規模最適輸送のためのエンドツーエンドアプローチを提案する。
提案手法の有効性を実世界の大規模応用に適用し,提案手法の有効性を実証する。
論文 参考訳(メタデータ) (2020-03-14T14:06:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。