論文の概要: Fast Epigraphical Projection-based Incremental Algorithms for
Wasserstein Distributionally Robust Support Vector Machine
- arxiv url: http://arxiv.org/abs/2010.12865v1
- Date: Sat, 24 Oct 2020 10:42:27 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-03 12:36:32.834614
- Title: Fast Epigraphical Projection-based Incremental Algorithms for
Wasserstein Distributionally Robust Support Vector Machine
- Title（参考訳）: Wasserstein分散ロバスト支持ベクトルマシンの高速図形投影に基づくインクリメンタルアルゴリズム
- Authors: Jiajin Li, Caihua Chen, Anthony Man-Cho So
- Abstract要約: Wasserstein textbf Distributionally textbfRobust textbfOptimization (DRO) は、データでうまく機能する決定を見つけることに関心がある。
DRO問題を解くための2つの新しい図形投影型インクリメンタルアルゴリズムを提案する。
- 参考スコア（独自算出の注目度）: 31.58346511479111
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Wasserstein \textbf{D}istributionally \textbf{R}obust \textbf{O}ptimization
(DRO) is concerned with finding decisions that perform well on data that are
drawn from the worst-case probability distribution within a Wasserstein ball
centered at a certain nominal distribution. In recent years, it has been shown
that various DRO formulations of learning models admit tractable convex
reformulations. However, most existing works propose to solve these convex
reformulations by general-purpose solvers, which are not well-suited for
tackling large-scale problems. In this paper, we focus on a family of
Wasserstein distributionally robust support vector machine (DRSVM) problems and
propose two novel epigraphical projection-based incremental algorithms to solve
them. The updates in each iteration of these algorithms can be computed in a
highly efficient manner. Moreover, we show that the DRSVM problems considered
in this paper satisfy a H\"olderian growth condition with explicitly determined
growth exponents. Consequently, we are able to establish the convergence rates
of the proposed incremental algorithms. Our numerical results indicate that the
proposed methods are orders of magnitude faster than the state-of-the-art, and
the performance gap grows considerably as the problem size increases.
- Abstract（参考訳）: Wasserstein \textbf{D}istributionally \textbf{R}obust \textbf{O}ptimization (DRO) は、ある名目分布を中心とするWassersteinボール内の最悪の確率分布から引き出されたデータによく作用する決定を見つけることに関心がある。
近年, 学習モデルの様々なDRO定式化が, トラクタブル・凸修正を許容していることが示されている。
しかし、既存のほとんどの研究は、大規模な問題に取り組むのに適さない汎用的な解法による凸修正を解くことを提案している。
本稿では,wasserstein分布ロバストサポートベクターマシン(drsvm)の問題に着目し,それらを解決するための2つの新しいエピグラフィック投影に基づくインクリメンタルアルゴリズムを提案する。
これらのアルゴリズムの繰り返しの更新は、非常に効率的な方法で計算できる。
さらに, 本論文では, DRSVM問題は, 明確な成長指数を持つH\"高齢者の成長条件を満たすことを示した。
その結果,提案したインクリメンタルアルゴリズムの収束率を確立することができる。
その結果,提案手法は最先端の手法よりも桁違いに高速であり,問題の規模が大きくなるにつれて性能ギャップが大きくなることがわかった。
関連論文リスト
- Best Arm Identification with Fixed Budget: A Large Deviation Perspective [54.305323903582845]
我々は、様々な武器の報酬間の経験的ギャップに基づいて、あらゆるラウンドで腕を拒絶できる真に適応的なアルゴリズムであるsredを提示する。
特に、様々な武器の報酬の間の経験的ギャップに基づいて、あらゆるラウンドで腕を拒絶できる真に適応的なアルゴリズムであるsredを提示する。
論文 参考訳（メタデータ） (2023-12-19T13:17:43Z) - Flow-based Distributionally Robust Optimization [23.232731771848883]
We present a framework, called $textttFlowDRO$, for solve flow-based distributionally robust optimization (DRO) problem with Wasserstein uncertainty set。
我々は、連続した最悪のケース分布(Last Favorable Distribution, LFD)とそれからのサンプルを見つけることを目指している。
本稿では、逆学習、分布論的に堅牢な仮説テスト、およびデータ駆動型分布摂動差分プライバシーの新しいメカニズムを実証する。
論文 参考訳（メタデータ） (2023-10-30T03:53:31Z) - Provably Efficient UCB-type Algorithms For Learning Predictive State
Representations [55.00359893021461]
逐次決定問題は、予測状態表現(PSR)によってモデル化された低ランク構造が認められる場合、統計的に学習可能である
本稿では,推定モデルと実モデル間の全変動距離を上限とする新しいボーナス項を特徴とする,PSRに対する最初のUCB型アプローチを提案する。
PSRに対する既存のアプローチとは対照的に、UCB型アルゴリズムは計算的トラクタビリティ、最優先の準最適ポリシー、モデルの精度が保証される。
論文 参考訳（メタデータ） (2023-07-01T18:35:21Z) - An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳（メタデータ） (2023-06-10T08:25:16Z) - Approximating a RUM from Distributions on k-Slates [88.32814292632675]
与えられた分布を平均で最もよく近似するRUMを求める一般化時間アルゴリズムを求める。
我々の理論的結果は、実世界のデータセットに効果的でスケール可能なものを得るという、実践的な結果も得られます。
論文 参考訳（メタデータ） (2023-05-22T17:43:34Z) - Wasserstein Distributionally Robust Estimation in High Dimensions:
Performance Analysis and Optimal Hyperparameter Tuning [0.0]
雑音線形測定から未知パラメータを推定するための分布的ロバストな推定フレームワークを提案する。
このような推定器の2乗誤差性能を解析する作業に着目する。
凸凹最適化問題の解法として2乗誤差を復元できることを示す。
論文 参考訳（メタデータ） (2022-06-27T13:02:59Z) - Distributionally Robust Optimization with Markovian Data [8.126833795693699]
本研究では,不確実な問題パラメータの確率分布が不明なプログラムについて検討する。
本稿では,問題の目的関数と最適解を推定するために,データ駆動型分布法を提案する。
論文 参考訳（メタデータ） (2021-06-12T10:59:02Z) - Projection Robust Wasserstein Barycenter [36.97843660480747]
ワッサースタイン・バリセンターの 近似は 次元の呪いのため 数値的に困難です
本稿では,次元の呪いを緩和するプロジェクションロバストなワッサーシュタインバリセンタ(PRWB)を提案する。
論文 参考訳（メタデータ） (2021-02-05T19:23:35Z) - Wasserstein Distributionally Robust Inverse Multiobjective Optimization [14.366265951396587]
分散ロバストな逆多目的最適化問題(WRO-IMOP)を開発する。
We show that the excess risk of the WRO-IMOP estimator has a sub-linear convergence rate。
合成多目的二次プログラムと実世界のポートフォリオ最適化問題において,本手法の有効性を実証する。
論文 参考訳（メタデータ） (2020-09-30T10:44:07Z) - Stochastic Saddle-Point Optimization for Wasserstein Barycenters [69.68068088508505]
オンラインデータストリームによって生成される有限個の点からなるランダムな確率測度に対する人口推定バリセンタ問題を考察する。
本稿では,この問題の構造を用いて,凸凹型サドル点再構成を行う。
ランダム確率測度の分布が離散的な場合、最適化アルゴリズムを提案し、その複雑性を推定する。
論文 参考訳（メタデータ） (2020-06-11T19:40:38Z) - Effective Dimension Adaptive Sketching Methods for Faster Regularized
Least-Squares Optimization [56.05635751529922]
スケッチに基づくL2正規化最小二乗問題の解法を提案する。
我々は、最も人気のあるランダム埋め込みの2つ、すなわちガウス埋め込みとサブサンプリングランダム化アダマール変換(SRHT)を考える。
論文 参考訳（メタデータ） (2020-06-10T15:00:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。