論文の概要: Score-based Generative Neural Networks for Large-Scale Optimal Transport
- arxiv url: http://arxiv.org/abs/2110.03237v1
- Date: Thu, 7 Oct 2021 07:45:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-09 04:33:28.284499
- Title: Score-based Generative Neural Networks for Large-Scale Optimal Transport
- Title（参考訳）: 大規模最適輸送のためのスコアベース生成ニューラルネットワーク
- Authors: Max Daniels, Tyler Maunu, Paul Hand
- Abstract要約: 場合によっては、最適な輸送計画は、ソースサポートからターゲットサポートへの1対1のマッピングの形を取る。
代わりに、ソースとターゲット分布のカップリングを解いた最適輸送の正規化形態であるシンクホーン問題について検討する。
本稿では,2つの分布間のシンクホーン結合をスコアベース生成モデルで学習するための新しい枠組みを提案する。
- 参考スコア（独自算出の注目度）: 15.666205208594565
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the fundamental problem of sampling the optimal transport
coupling between given source and target distributions. In certain cases, the
optimal transport plan takes the form of a one-to-one mapping from the source
support to the target support, but learning or even approximating such a map is
computationally challenging for large and high-dimensional datasets due to the
high cost of linear programming routines and an intrinsic curse of
dimensionality. We study instead the Sinkhorn problem, a regularized form of
optimal transport whose solutions are couplings between the source and the
target distribution. We introduce a novel framework for learning the Sinkhorn
coupling between two distributions in the form of a score-based generative
model. Conditioned on source data, our procedure iterates Langevin Dynamics to
sample target data according to the regularized optimal coupling. Key to this
approach is a neural network parametrization of the Sinkhorn problem, and we
prove convergence of gradient descent with respect to network parameters in
this formulation. We demonstrate its empirical success on a variety of large
scale optimal transport tasks.
- Abstract（参考訳）: 与えられたソースとターゲット分布間の最適な輸送結合をサンプリングする根本的な問題を考える。
特定の場合において、最適な輸送計画は、ソースサポートからターゲットサポートへの1対1のマッピングの形を取るが、そのようなマップの学習や近似は、線形プログラミングルーチンの高コストと本質的な次元の呪いのために、大規模かつ高次元のデータセットに対して計算的に困難である。
代わりに、ソースとターゲット分布のカップリングを解とする最適輸送の正規化形式であるシンクホーン問題について検討する。
本稿では2つの分布間のシンクホーン結合をスコアベース生成モデルで学習するための新しい枠組みを提案する。
本手法は,ソースデータに基づいて,正規化された最適結合に従って,Langevin Dynamicsをサンプリング対象データに反復する。
このアプローチの鍵となるのは、シンクホーン問題のニューラルネットワークパラメトリゼーションであり、この定式化におけるネットワークパラメータに対する勾配降下の収束性を証明する。
様々な大規模最適輸送タスクにおける実証的な成功例を示す。
関連論文リスト
- Diffusion Models as Network Optimizers: Explorations and Analysis [71.69869025878856]
生成拡散モデル(GDM)は,ネットワーク最適化の新しいアプローチとして期待されている。
本研究ではまず,生成モデルの本質的な特徴について考察する。
本稿では,識別的ネットワーク最適化よりも生成モデルの利点を簡潔かつ直感的に示す。
論文 参考訳（メタデータ） (2024-11-01T09:05:47Z) - An Asymptotically Optimal Coordinate Descent Algorithm for Learning Bayesian Networks from Gaussian Models [6.54203362045253]
線形ガウス構造方程式モデルに基づいて連続観測データからネットワークを学習する問題について検討する。
本稿では,$ell$penalized max chanceの最適目標値に収束する新しい座標降下アルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-08-21T20:18:03Z) - Non-iterative Optimization of Trajectory and Radio Resource for Aerial Network [7.824710236769593]
我々は,空中IoTネットワークにおける共同軌道計画,ユーザアソシエーション,資源配分,電力制御の問題に対処する。
我々のフレームワークは、遺伝的、木探索、強化学習といった様々な軌道計画アルゴリズムを組み込むことができる。
論文 参考訳（メタデータ） (2024-05-02T14:21:29Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳（メタデータ） (2024-01-29T02:08:40Z) - Flow-based Distributionally Robust Optimization [23.232731771848883]
We present a framework, called $textttFlowDRO$, for solve flow-based distributionally robust optimization (DRO) problem with Wasserstein uncertainty set。
我々は、連続した最悪のケース分布(Last Favorable Distribution, LFD)とそれからのサンプルを見つけることを目指している。
本稿では、逆学習、分布論的に堅牢な仮説テスト、およびデータ駆動型分布摂動差分プライバシーの新しいメカニズムを実証する。
論文 参考訳（メタデータ） (2023-10-30T03:53:31Z) - Exploiting Temporal Structures of Cyclostationary Signals for
Data-Driven Single-Channel Source Separation [98.95383921866096]
単一チャネルソース分離(SCSS)の問題点について検討する。
我々は、様々なアプリケーション領域に特に適するサイクロ定常信号に焦点を当てる。
本稿では,最小MSE推定器と競合するU-Netアーキテクチャを用いたディープラーニング手法を提案する。
論文 参考訳（メタデータ） (2022-08-22T14:04:56Z) - Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。
MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。
本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
論文 参考訳（メタデータ） (2022-06-29T22:19:03Z) - Learning to Solve Routing Problems via Distributionally Robust
Optimization [14.506553345693536]
ルーティング問題を解決するための最近のディープモデルでは、トレーニング用のノードの単一分布が想定されており、分散一般化能力を著しく損なう。
この問題に対処するために、群分布的ロバストな最適化(グループDRO)を活用し、異なる分布群に対する重み付けと深層モデルのパラメータを、トレーニング中にインターリーブされた方法で共同で最適化する。
また、畳み込みニューラルネットワークに基づくモジュールを設計し、ディープモデルがノード間のより情報に富んだ潜在パターンを学習できるようにする。
論文 参考訳（メタデータ） (2022-02-15T08:06:44Z) - Optimizing Mode Connectivity via Neuron Alignment [84.26606622400423]
経験的に、損失関数の局所ミニマは、損失がほぼ一定であるようなモデル空間の学習曲線で接続することができる。
本稿では,ネットワークの重み変化を考慮し,対称性がランドスケープ・コネクティビティに与える影響を明らかにするための,より一般的な枠組みを提案する。
論文 参考訳（メタデータ） (2020-09-05T02:25:23Z) - Distributed Training of Graph Convolutional Networks [24.040921719350283]
基礎となるデータグラフを異なるエージェントに分割する分散シナリオにおいて、どのように推論を行うかを示す。
次に,GCN学習問題を解くために,分散勾配降下法を提案する。
また, 温和条件下でのGCNトレーニング問題の定常解の収束性も確立した。
論文 参考訳（メタデータ） (2020-07-13T10:04:20Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳（メタデータ） (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。