論文の概要: A Particle-Based Algorithm for Distributional Optimization on \textit{Constrained Domains} via Variational Transport and Mirror Descent

• arxiv url: http://arxiv.org/abs/2208.00587v3
• Date: Wed, 3 Aug 2022 15:58:10 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-04 11:25:18.028071
• Title: A Particle-Based Algorithm for Distributional Optimization on \textit{Constrained Domains} via Variational Transport and Mirror Descent
• Title（参考訳）: 変分輸送と鏡面の輝きによる \textit{Constrained Domains} の分布最適化のための粒子アルゴリズム
• Authors: Dai Hai Nguyen, Tetsuya Sakurai
• Abstract要約: 本稿では,制約領域上の確率分布に対して,変分形式を認めて定義する目的関数を最小化する問題を考察する。 制約付き最適化のためのミラー降下アルゴリズムに着想を得て、ミラー変動輸送(mirrorVT)と呼ばれる反復的な粒子ベースアルゴリズムを提案する。 単純およびユークリッド球制約領域上の確率分布上の関数を最小化するための mirrorVT の有効性を実証する。
• 参考スコア（独自算出の注目度）: 4.835289158553091
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We consider the optimization problem of minimizing an objective functional, which admits a variational form and is defined over probability distributions on the constrained domain, which poses challenges to both theoretical analysis and algorithmic design. Inspired by the mirror descent algorithm for constrained optimization, we propose an iterative particle-based algorithm, named Mirrored Variational Transport (mirrorVT), extended from the Variational Transport framework [7] for dealing with the constrained domain. In particular, for each iteration, mirrorVT maps particles to an unconstrained dual domain induced by a mirror map and then approximately perform Wasserstein gradient descent on the manifold of distributions defined over the dual space by pushing particles. At the end of iteration, particles are mapped back to the original constrained domain. Through simulated experiments, we demonstrate the effectiveness of mirrorVT for minimizing the functionals over probability distributions on the simplex- and Euclidean ball-constrained domains. We also analyze its theoretical properties and characterize its convergence to the global minimum of the objective functional.
• Abstract（参考訳）: 本稿では, 制約領域上の確率分布に対して定式化され, 理論的解析とアルゴリズム設計の両方に課題が生じる, 目的関数を最小化する最適化問題を考察する。 制約付き最適化のためのミラー降下アルゴリズムに着想を得て,制約付き領域を扱うための変動移動フレームワーク [7] から拡張されたミラー変動輸送(mirrorVT)と呼ばれる反復的粒子ベースアルゴリズムを提案する。 特に、各イテレーションにおいて、mirrorvtは粒子をミラーマップによって引き起こされる拘束されない双対領域に写像し、次に粒子を押して双対空間上で定義される分布の多様体上のワッサーシュタイン勾配降下を概ね行う。 イテレーションの終わりに、粒子は元の制約された領域にマッピングされる。 シミュレーション実験により, 単純およびユークリッド球制約領域上の確率分布上の関数を最小化するための mirrorVT の有効性を示す。 また,その理論特性を解析し,その収束を目的関数の極大最小値に特徴付ける。

関連論文リスト

• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Reflected Schr\"odinger Bridge for Constrained Generative Modeling [16.72888494254555]
  反射拡散モデルは、現実の応用における大規模生成モデルのゴートメソッドとなっている。 本稿では,様々な領域内でデータを生成するために最適化されたエントロピー規則化された最適輸送手法であるReflectioned Schrodinger Bridgeアルゴリズムを紹介する。 提案アルゴリズムは,多様な領域におけるロバストな生成モデリングを実現し,そのスケーラビリティは,標準画像ベンチマークによる実世界の制約付き生成モデリングにおいて実証される。
  論文  参考訳（メタデータ） (2024-01-06T14:39:58Z)
• Moreau-Yoshida Variational Transport: A General Framework For Solving Regularized Distributional Optimization Problems [3.038642416291856]
  クラス確率分布上に定義された複合目的関数を最小化する一般的な最適化問題を考える。 本稿では,正規分布最適化問題の解法として,モロー・吉田変分輸送(MYVT)と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-07-31T01:14:42Z)
• Efficient displacement convex optimization with particle gradient descent [57.88860627977882]
  粒子勾配降下は確率測度の関数の最適化に広く用いられている。 本稿では, 有限個の粒子による粒子勾配降下について考察し, その理論的保証を定式化して, 測度に置換凸となる関数を最適化する。
  論文  参考訳（メタデータ） (2023-02-09T16:35:59Z)
• Sampling with Mollified Interaction Energy Descent [57.00583139477843]
  モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。 MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する 我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
  論文  参考訳（メタデータ） (2022-10-24T16:54:18Z)
• Constrained Maximum Cross-Domain Likelihood for Domain Generalization [14.91361835243516]
  ドメインの一般化は、複数のソースドメイン上で一般化可能なモデルを学ぶことを目的としている。 本稿では,異なる領域の後方分布間のKL偏差を最小限に抑える新しい領域一般化法を提案する。 Digits-DG、PACS、Office-Home、MiniDomainNetの4つの標準ベンチマークデータセットの実験は、我々のメソッドの優れたパフォーマンスを強調している。
  論文  参考訳（メタデータ） (2022-10-09T03:41:02Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Lifting the Convex Conjugate in Lagrangian Relaxations: A Tractable Approach for Continuous Markov Random Fields [53.31927549039624]
  断片的な離散化は既存の離散化問題と矛盾しないことを示す。 この理論を2つの画像のマッチング問題に適用する。
  論文  参考訳（メタデータ） (2021-07-13T12:31:06Z)
• Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
  分散最適化問題は機械学習や統計学で広く発生する。 本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。 目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
  論文  参考訳（メタデータ） (2020-12-21T18:33:13Z)
• Efficient constrained sampling via the mirror-Langevin algorithm [9.061408029414455]
  本稿では,ミラー・ランジュバン拡散の新しい離散化を提案し,その収束のクリップな証明を与える。 コンパクトな集合に支持された対数凹分布からサンプリングする作業において,我々の理論的結果は既存の保証よりもはるかに優れている。
  論文  参考訳（メタデータ） (2020-10-30T11:54:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。