論文の概要: Unifying Distributionally Robust Optimization via Optimal Transport
Theory
- arxiv url: http://arxiv.org/abs/2308.05414v1
- Date: Thu, 10 Aug 2023 08:17:55 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-11 13:07:32.807390
- Title: Unifying Distributionally Robust Optimization via Optimal Transport
Theory
- Title(参考訳): 最適輸送理論による分布ロバスト最適化の統一
- Authors: Jose Blanchet, Daniel Kuhn, Jiajin Li, Bahar Taskesen
- Abstract要約: 本稿では,これらの手法を最適輸送に基づく単一フレームワークに統一する新しい手法を提案する。
提案手法により,最適対向分布が同時に摂動確率と結果を得ることが可能となる。
本稿では, この統合フレームワークの実用性を高めるための, トラクタブルな改質手法を提案する。
- 参考スコア(独自算出の注目度): 13.19058156672392
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the past few years, there has been considerable interest in two prominent
approaches for Distributionally Robust Optimization (DRO): Divergence-based and
Wasserstein-based methods. The divergence approach models misspecification in
terms of likelihood ratios, while the latter models it through a measure of
distance or cost in actual outcomes. Building upon these advances, this paper
introduces a novel approach that unifies these methods into a single framework
based on optimal transport (OT) with conditional moment constraints. Our
proposed approach, for example, makes it possible for optimal adversarial
distributions to simultaneously perturb likelihood and outcomes, while
producing an optimal (in an optimal transport sense) coupling between the
baseline model and the adversarial model.Additionally, the paper investigates
several duality results and presents tractable reformulations that enhance the
practical applicability of this unified framework.
- Abstract(参考訳): ここ数年、分散ロバスト最適化(DRO: Distributionally Robust Optimization)の2つの顕著なアプローチにかなりの関心が寄せられている。
発散アプローチは確率比で誤特定をモデル化し、後者は実際の結果における距離またはコストの尺度でモデル化する。
そこで本稿では,これらの手法を条件付きモーメント制約付き最適輸送(ot)に基づく単一フレームワークに統一する新しい手法を提案する。
提案手法は,例えば,ベースラインモデルと逆モデルとの最適な(最適な)結合を図りながら,確率と結果を同時に摂動させることができる。さらに,いくつかの双対性について検討し,この統一フレームワークの実用的適用性を高めるための説明可能な再構成を提案する。
関連論文リスト
- Constrained Bayesian Optimization Under Partial Observations: Balanced
Improvements and Provable Convergence [6.461785985849886]
我々は、制約付きベイズ最適化の枠組みの下で、高価なPOCOPの効率的かつ証明可能な手法を設計する。
本稿では,最適化時の平衡探索を取り入れた取得関数の設計を改良した。
部分的に観測可能な制約に対する代理モデルとして異なる確率を埋め込んだガウス過程を提案する。
論文 参考訳(メタデータ) (2023-12-06T01:00:07Z) - Analyzing and Improving Optimal-Transport-based Adversarial Networks [9.980822222343921]
最適輸送(OT)問題は、与えられたコスト関数を最小化しつつ、2つの分布をブリッジする輸送計画を見つけることを目的としている。
OT理論は生成モデリングに広く利用されている。
提案手法はCIFAR-10では2.51点,CelebA-HQ-256では5.99点のFIDスコアを得た。
論文 参考訳(メタデータ) (2023-10-04T06:52:03Z) - Improving Transferability of Adversarial Examples via Bayesian Attacks [84.90830931076901]
モデル入力にベイズ定式化を組み込むことにより,モデル入力とモデルパラメータの共分散を可能にする新しい拡張を導入する。
提案手法は,トランスファーベース攻撃に対する新たな最先端技術を実現し,ImageNetとCIFAR-10の平均成功率をそれぞれ19.14%,2.08%向上させる。
論文 参考訳(メタデータ) (2023-07-21T03:43:07Z) - Variational Refinement for Importance Sampling Using the Forward
Kullback-Leibler Divergence [77.06203118175335]
変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。
重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。
近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
論文 参考訳(メタデータ) (2021-06-30T11:00:24Z) - Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。
このアプローチは多くの実装と最適化の課題をもたらします。
提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
論文 参考訳(メタデータ) (2021-03-18T14:26:26Z) - Comparing Probability Distributions with Conditional Transport [63.11403041984197]
新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
論文 参考訳(メタデータ) (2020-12-28T05:14:22Z) - Deep Ordinal Regression using Optimal Transport Loss and Unimodal Output
Probabilities [3.169089186688223]
本稿では,単調な出力分布と最適輸送損失に基づく奥行き回帰の枠組みを提案する。
提案手法の異なるコンポーネントを実証的に分析し,モデルの性能への寄与を実証する。
8つの実世界のデータセットに対する実験結果から,提案手法が最近提案した深層学習手法と同等かつよく動作することを示す。
論文 参考訳(メタデータ) (2020-11-15T19:19:40Z) - Robust, Accurate Stochastic Optimization for Variational Inference [68.83746081733464]
また, 共通最適化手法は, 問題が適度に大きい場合, 変分近似の精度が低下することを示した。
これらの結果から,基礎となるアルゴリズムをマルコフ連鎖の生成とみなして,より堅牢で正確な最適化フレームワークを開発する。
論文 参考訳(メタデータ) (2020-09-01T19:12:11Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。