Fugu-MT 論文翻訳(概要): Outlier-Robust Wasserstein DRO

論文の概要: Outlier-Robust Wasserstein DRO

arxiv url: http://arxiv.org/abs/2311.05573v1
Date: Thu, 9 Nov 2023 18:32:00 GMT
ステータス: 処理完了
システム内更新日: 2023-11-10 14:15:37.051068
Title: Outlier-Robust Wasserstein DRO
Title（参考訳）: Outlier-Robust Wasserstein DRO
Authors: Sloan Nietert, Ziv Goldfeld, Soroosh Shafiee
Abstract要約: 分散ロバスト最適化(DRO)は不確実性の存在下でのデータ駆動型意思決定に有効な手法である。本稿では、幾何学的(ワッサーシュタイン)摂動と非幾何学的(TV)汚染の両面から意思決定を行うための新しいアウトリアローバストWDROフレームワークを提案する。我々は、トラクタブル凸の再構成と、外乱問題WDROの効率的な計算を可能にする強力な双対性を証明した。
参考スコア（独自算出の注目度）: 19.355450629316486
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Distributionally robust optimization (DRO) is an effective approach for data-driven decision-making in the presence of uncertainty. Geometric uncertainty due to sampling or localized perturbations of data points is captured by Wasserstein DRO (WDRO), which seeks to learn a model that performs uniformly well over a Wasserstein ball centered around the observed data distribution. However, WDRO fails to account for non-geometric perturbations such as adversarial outliers, which can greatly distort the Wasserstein distance measurement and impede the learned model. We address this gap by proposing a novel outlier-robust WDRO framework for decision-making under both geometric (Wasserstein) perturbations and non-geometric (total variation (TV)) contamination that allows an $\varepsilon$-fraction of data to be arbitrarily corrupted. We design an uncertainty set using a certain robust Wasserstein ball that accounts for both perturbation types and derive minimax optimal excess risk bounds for this procedure that explicitly capture the Wasserstein and TV risks. We prove a strong duality result that enables tractable convex reformulations and efficient computation of our outlier-robust WDRO problem. When the loss function depends only on low-dimensional features of the data, we eliminate certain dimension dependencies from the risk bounds that are unavoidable in the general setting. Finally, we present experiments validating our theory on standard regression and classification tasks.
Abstract（参考訳）: 分散ロバスト最適化(DRO)は不確実性の存在下でのデータ駆動型意思決定に有効な手法である。データ点のサンプリングや局所摂動による幾何学的不確実性をワッサースタインDRO (WDRO) が捉え、観測されたデータ分布を中心とするワッサースタイン球上で均一に機能するモデルを学習しようとする。しかし、WDROは、ワッサーシュタイン距離の測定を著しく歪め、学習モデルを阻害する逆数外乱のような非幾何学的摂動を考慮できない。我々は,幾何学的(wasserstein)摂動と非幾何学的(total variation(tv))汚染の両方の下で意思決定を行うための,新たなoutlier-robust wdroフレームワークを提案することで,このギャップに対処する。我々は,この手順に対して,摂動型と極小極小極小過大リスク境界を考慮に入れた,ある種の頑健なワッサースタイン球を用いて不確実性集合を設計する。我々は、トラクタブル凸の再構成と、外乱問題WDROの効率的な計算を可能にする強力な双対性を証明した。損失関数がデータの低次元特徴のみに依存する場合、一般的な設定では避けられないリスク境界から一定の次元依存性を排除する。最後に,標準回帰と分類タスクに関する理論を検証する実験を行った。

関連論文リスト

Byzantine-resilient Federated Learning With Adaptivity to Data Heterogeneity [54.145730036889496]
本稿では、ビザンツの悪意ある攻撃データの存在下でのグラディエント・ラーニング(FL)を扱う。 Average Algorithm (RAGA) が提案され、ロバストネスアグリゲーションを活用してデータセットを選択することができる。
論文参考訳（メタデータ） (2024-03-20T08:15:08Z)
Geometry-Calibrated DRO: Combating Over-Pessimism with Free Energy Implications [31.3535638804615]
機械学習アルゴリズムは、分散シフトの影響を受けやすい平均リスクを最小化する。分散ロバスト最適化(DRO)は、不確実性セット内の最悪のケースリスクを最適化することでこの問題に対処する。 DROは過ペシミズムに悩まされており、低信頼の予測、パラメータ推定の低さ、一般化の低さにつながっている。本研究では,過ペシミズムの根本原因を理論的に解析する。
論文参考訳（メタデータ） (2023-11-08T23:33:39Z)
On the Size and Approximation Error of Distilled Sets [57.61696480305911]
カーネル・インジェクション・ポイント(Kernel Inducing Points)などのデータセット蒸留のカーネル・リッジ回帰に基づく手法について理論的に考察する。我々は、RFF空間におけるその解が元のデータの解と一致するように、元の入力空間に小さな一組のインスタンスが存在することを証明した。 KRR溶液は、全入力データに最適化されたKRR溶液に対して近似を与えるこの蒸留されたインスタンスセットを用いて生成することができる。
論文参考訳（メタデータ） (2023-05-23T14:37:43Z)
Mutual Wasserstein Discrepancy Minimization for Sequential Recommendation [82.0801585843835]
逐次リコメンデーションのためのMutual WasserStein差分最小化MSteinに基づく新しい自己教師型学習フレームワークを提案する。また,ワッサーシュタイン離散度測定に基づく新しい学習損失を提案する。
論文参考訳（メタデータ） (2023-01-28T13:38:48Z)
Wasserstein Distributionally Robust Estimation in High Dimensions: Performance Analysis and Optimal Hyperparameter Tuning [0.0]
雑音線形測定から未知パラメータを推定するための分布的ロバストな推定フレームワークを提案する。このような推定器の2乗誤差性能を解析する作業に着目する。凸凹最適化問題の解法として2乗誤差を復元できることを示す。
論文参考訳（メタデータ） (2022-06-27T13:02:59Z)
Projected Sliced Wasserstein Autoencoder-based Hyperspectral Images Anomaly Detection [42.585075865267946]
本稿では,PSW自動エンコーダを用いた異常検出手法を提案する。特に、計算フレンドリーな固有分解法を利用して、高次元データをスライスする主成分を見つける。様々な実世界のハイパースペクトル異常検出ベンチマークで実施した総合的な実験は,提案手法の優れた性能を示す。
論文参考訳（メタデータ） (2021-12-20T09:21:02Z)
DORO: Distributional and Outlier Robust Optimization [98.44757325531631]
本稿では,分散ロバスト最適化のためのDOROのフレームワークを提案する。このアプローチのコアとなるのは、DROがオーバーフィットして潜在的な外れ値に収まらないような、洗練されたリスク関数である。提案手法の有効性を理論的に証明し, DOROがDROの性能と安定性を向上することを示す。
論文参考訳（メタデータ） (2021-06-11T02:59:54Z)
Rethinking Rotated Object Detection with Gaussian Wasserstein Distance Loss [111.8807588392563]
境界不連続性と最終検出基準の不整合性は, 回転検出回帰損失設計のボトルネックとなっている。本稿では,ガウス・ワッサーシュタイン距離に基づく新しい回帰損失を,この問題に対する基本的なアプローチとして提案する。
論文参考訳（メタデータ） (2021-01-28T12:04:35Z)
Finite-Sample Guarantees for Wasserstein Distributionally Robust Optimization: Breaking the Curse of Dimensionality [5.888646114353371]
ワッサーシュタインの分布的ロバストな最適化は、ワッサーシュタイン距離におけるデータ摂動に逆らって頑健で一般化可能な解を求めることを目的としている。既存の一般的な損失関数のパフォーマンス保証は、次元の呪いのために過度に保守的であるか、大きなサンプルの複雑さでしか証明できない。 We developed a non-asymptotic framework for the out-of-sample performance for Wasserstein robust learning and the generalization bound for its related Lipschitz and gradient regularization problem。
論文参考訳（メタデータ） (2020-09-09T16:02:57Z)
Localization Uncertainty Estimation for Anchor-Free Object Detection [48.931731695431374]
アンカーベース物体検出のための既存の不確実性推定手法にはいくつかの制限がある。アンカーフリー物体検出のためのUADと呼ばれる新しい位置推定不確実性推定手法を提案する。本手法は,ボックスオフセットの4方向の不確かさを均一に捉え,どの方向が不確実であるかを判断する。
論文参考訳（メタデータ） (2020-06-28T13:49:30Z)
Principled learning method for Wasserstein distributionally robust optimization with local perturbations [21.611525306059985]
ワッサーシュタイン分布論的ロバスト最適化(WDRO)は、実験データ分布近傍の局所的な最悪のリスクを最小限に抑えるモデルを学習しようとする。本稿では,新しい近似定理に基づく最小化器を提案し,それに対応するリスク一貫性結果を提供する。提案手法は,ノイズのあるデータセットのベースラインモデルよりも精度が高いことを示す。
論文参考訳（メタデータ） (2020-06-05T09:32:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。