論文の概要: Score-based Generative Neural Networks for Large-Scale Optimal Transport

• arxiv url: http://arxiv.org/abs/2110.03237v1
• Date: Thu, 7 Oct 2021 07:45:39 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-09 04:33:28.284499
• Title: Score-based Generative Neural Networks for Large-Scale Optimal Transport
• Title（参考訳）: 大規模最適輸送のためのスコアベース生成ニューラルネットワーク
• Authors: Max Daniels, Tyler Maunu, Paul Hand
• Abstract要約: 場合によっては、最適な輸送計画は、ソースサポートからターゲットサポートへの1対1のマッピングの形を取る。 代わりに、ソースとターゲット分布のカップリングを解いた最適輸送の正規化形態であるシンクホーン問題について検討する。 本稿では,2つの分布間のシンクホーン結合をスコアベース生成モデルで学習するための新しい枠組みを提案する。
• 参考スコア（独自算出の注目度）: 15.666205208594565
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We consider the fundamental problem of sampling the optimal transport coupling between given source and target distributions. In certain cases, the optimal transport plan takes the form of a one-to-one mapping from the source support to the target support, but learning or even approximating such a map is computationally challenging for large and high-dimensional datasets due to the high cost of linear programming routines and an intrinsic curse of dimensionality. We study instead the Sinkhorn problem, a regularized form of optimal transport whose solutions are couplings between the source and the target distribution. We introduce a novel framework for learning the Sinkhorn coupling between two distributions in the form of a score-based generative model. Conditioned on source data, our procedure iterates Langevin Dynamics to sample target data according to the regularized optimal coupling. Key to this approach is a neural network parametrization of the Sinkhorn problem, and we prove convergence of gradient descent with respect to network parameters in this formulation. We demonstrate its empirical success on a variety of large scale optimal transport tasks.
• Abstract（参考訳）: 与えられたソースとターゲット分布間の最適な輸送結合をサンプリングする根本的な問題を考える。 特定の場合において、最適な輸送計画は、ソースサポートからターゲットサポートへの1対1のマッピングの形を取るが、そのようなマップの学習や近似は、線形プログラミングルーチンの高コストと本質的な次元の呪いのために、大規模かつ高次元のデータセットに対して計算的に困難である。 代わりに、ソースとターゲット分布のカップリングを解とする最適輸送の正規化形式であるシンクホーン問題について検討する。 本稿では2つの分布間のシンクホーン結合をスコアベース生成モデルで学習するための新しい枠組みを提案する。 本手法は,ソースデータに基づいて,正規化された最適結合に従って,Langevin Dynamicsをサンプリング対象データに反復する。 このアプローチの鍵となるのは、シンクホーン問題のニューラルネットワークパラメトリゼーションであり、この定式化におけるネットワークパラメータに対する勾配降下の収束性を証明する。 様々な大規模最適輸送タスクにおける実証的な成功例を示す。

関連論文リスト

• Non-iterative Optimization of Trajectory and Radio Resource for Aerial Network [7.824710236769593]
  我々は,空中IoTネットワークにおける共同軌道計画,ユーザアソシエーション,資源配分,電力制御の問題に対処する。 我々のフレームワークは、遺伝的、木探索、強化学習といった様々な軌道計画アルゴリズムを組み込むことができる。
  論文  参考訳（メタデータ） (2024-05-02T14:21:29Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Flow-based Distributionally Robust Optimization [23.232731771848883]
  We present a framework, called $textttFlowDRO$, for solve flow-based distributionally robust optimization (DRO) problem with Wasserstein uncertainty set。 我々は、連続した最悪のケース分布(Last Favorable Distribution, LFD)とそれからのサンプルを見つけることを目指している。 本稿では、逆学習、分布論的に堅牢な仮説テスト、およびデータ駆動型分布摂動差分プライバシーの新しいメカニズムを実証する。
  論文  参考訳（メタデータ） (2023-10-30T03:53:31Z)
• Generative modeling of time-dependent densities via optimal transport and projection pursuit [3.069335774032178]
  本稿では,時間的モデリングのための一般的なディープラーニングアルゴリズムの代替として,安価に提案する。 我々の手法は最先端の解法と比較して非常に競争力がある。
  論文  参考訳（メタデータ） (2023-04-19T13:50:13Z)
• Exploiting Temporal Structures of Cyclostationary Signals for Data-Driven Single-Channel Source Separation [98.95383921866096]
  単一チャネルソース分離(SCSS)の問題点について検討する。 我々は、様々なアプリケーション領域に特に適するサイクロ定常信号に焦点を当てる。 本稿では,最小MSE推定器と競合するU-Netアーキテクチャを用いたディープラーニング手法を提案する。
  論文  参考訳（メタデータ） (2022-08-22T14:04:56Z)
• Manifold Interpolating Optimal-Transport Flows for Trajectory Inference [64.94020639760026]
  最適輸送流(MIOFlow)を補間するマニフォールド補間法を提案する。 MIOFlowは、散発的なタイムポイントで撮影された静的スナップショットサンプルから、連続的な人口動態を学習する。 本手法は, 胚体分化および急性骨髄性白血病の治療から得られたscRNA-seqデータとともに, 分岐とマージによるシミュレーションデータについて検討した。
  論文  参考訳（メタデータ） (2022-06-29T22:19:03Z)
• Optimal Propagation for Graph Neural Networks [51.08426265813481]
  最適グラフ構造を学習するための二段階最適化手法を提案する。 また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
  論文  参考訳（メタデータ） (2022-05-06T03:37:00Z)
• Learning to Solve Routing Problems via Distributionally Robust Optimization [14.506553345693536]
  ルーティング問題を解決するための最近のディープモデルでは、トレーニング用のノードの単一分布が想定されており、分散一般化能力を著しく損なう。 この問題に対処するために、群分布的ロバストな最適化(グループDRO)を活用し、異なる分布群に対する重み付けと深層モデルのパラメータを、トレーニング中にインターリーブされた方法で共同で最適化する。 また、畳み込みニューラルネットワークに基づくモジュールを設計し、ディープモデルがノード間のより情報に富んだ潜在パターンを学習できるようにする。
  論文  参考訳（メタデータ） (2022-02-15T08:06:44Z)
• Optimizing Mode Connectivity via Neuron Alignment [84.26606622400423]
  経験的に、損失関数の局所ミニマは、損失がほぼ一定であるようなモデル空間の学習曲線で接続することができる。 本稿では,ネットワークの重み変化を考慮し,対称性がランドスケープ・コネクティビティに与える影響を明らかにするための,より一般的な枠組みを提案する。
  論文  参考訳（メタデータ） (2020-09-05T02:25:23Z)
• Distributed Training of Graph Convolutional Networks [24.040921719350283]
  基礎となるデータグラフを異なるエージェントに分割する分散シナリオにおいて、どのように推論を行うかを示す。 次に,GCN学習問題を解くために,分散勾配降下法を提案する。 また, 温和条件下でのGCNトレーニング問題の定常解の収束性も確立した。
  論文  参考訳（メタデータ） (2020-07-13T10:04:20Z)
• Model Fusion via Optimal Transport [64.13185244219353]
  ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。 これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
  論文  参考訳（メタデータ） (2019-10-12T22:07:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。