論文の概要: Statistical Guarantees for Distributionally Robust Optimization with Optimal Transport and OT-Regularized Divergences
- arxiv url: http://arxiv.org/abs/2603.27871v1
- Date: Sun, 29 Mar 2026 21:12:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-31 23:18:45.151368
- Title: Statistical Guarantees for Distributionally Robust Optimization with Optimal Transport and OT-Regularized Divergences
- Title（参考訳）: 最適輸送とOT規則分岐を用いた分布ロバスト最適化のための統計的保証
- Abstract要約: DROに基づく対人訓練による教師あり学習における集中不等式を導出する。
この結果は、$p$-Wasserstein の場合よりも幅広い OT コスト関数に適用できる。
- 参考スコア（独自算出の注目度）: 4.056434158960926
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study finite-sample statistical performance guarantees for distributionally robust optimization (DRO) with optimal transport (OT) and OT-regularized divergence model neighborhoods. Specifically, we derive concentration inequalities for supervised learning via DRO-based adversarial training, as commonly employed to enhance the adversarial robustness of machine learning models. Our results apply to a wide range of OT cost functions, beyond the $p$-Wasserstein case studied by previous authors. In particular, our results are the first to: 1) cover soft-constraint norm-ball OT cost functions; soft-constraint costs have been shown empirically to enhance robustness when used in adversarial training, 2) apply to the combination of adversarial sample generation and adversarial reweighting that is induced by using OT-regularized $f$-divergence model neighborhoods; the added reweighting mechanism has also been shown empirically to further improve performance. In addition, even in the $p$-Wasserstein case, our bounds exhibit better behavior as a function of the DRO neighborhood size than previous results when applied to the adversarial setting.
- Abstract（参考訳）: 本研究では, 最適輸送 (OT) と OT 正規化分散モデル近傍を用いた分散ロバスト最適化 (DRO) の有限サンプル統計性能保証について検討する。
具体的には、機械学習モデルの対角性を高めるため、DROベースの対角訓練を通じて教師あり学習の集中不等式を導出する。
この結果は、以前の著者が研究した$p$-Wassersteinのケースを超えて、幅広いOTコスト関数に適用できる。
特に、我々の結果は次のとおりである。
1) ソフトコントラスト・ノルムボールOTコスト関数をカバーし, ソフトコントラスト・コストは, 対人訓練で使用する場合の堅牢性を高めるために実験的に示された。
2) OT-regularized $f$-divergence model neighborhoods により誘導される対向サンプル生成と対向再重み付けの組み合わせに適用し, 追加再重み付け機構も実験的に示され, さらなる性能向上が図られている。
さらに、$p$-Wassersteinの場合でさえ、我々の境界は、逆向きの設定に適用した場合のDRO近傍の大きさの関数としてより良い振舞いを示す。
関連論文リスト
- Ratio-Variance Regularized Policy Optimization [64.95520246570446]
ポリシ比の分散を明示的に制約することは、信頼領域の制約に対する原則的な局所近似をもたらすことを示す。
本稿では,この制約を実装したR2bf VPO$(Ratio-Variance Regularized Policy Optimization)を紹介する。
論文 参考訳（メタデータ） (2026-05-26T09:53:42Z) - Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。
グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。
特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
論文 参考訳（メタデータ） (2026-04-20T16:43:28Z) - Observationally Informed Adaptive Causal Experimental Design [55.998153710215654]
本稿では,観測モデルを基礎的先行として活用する新たなパラダイムであるアクティブ残留学習を提案する。
このアプローチは、実験的な焦点を、目標因果量の学習から、観察バイアスの補正に必要な残差を効率的に推定するへとシフトさせる。
合成および半合成ベンチマークの実験は、R-Designがベースラインを大幅に上回ることを示した。
論文 参考訳（メタデータ） (2026-03-04T06:52:37Z) - Distributionally Robust Optimization with Adversarial Data Contamination [49.89480853499918]
凸リプシッツ損失関数を持つ一般化線形モデルに対するワッサーシュタイン-1 DRO 目標の最適化に焦点をあてる。
私たちの主な貢献は、データ汚染のトレーニングに対するロバストネスと分散シフトに対するロバストネスを統合した、新しいモデリングフレームワークです。
この研究は、データ汚染と分散シフトという2つの課題の下で学習するために、効率的な計算によって支援される最初の厳密な保証を確立する。
論文 参考訳（メタデータ） (2025-07-14T18:34:10Z) - DRAUC: An Instance-wise Distributionally Robust AUC Optimization
Framework [133.26230331320963]
ROC曲線のエリア(AUC)は、長い尾の分類のシナリオにおいて広く用いられている指標である。
本研究では,分散ロバストAUC(DRAUC)のインスタンスワイドサロゲート損失を提案し,その上に最適化フレームワークを構築した。
論文 参考訳（メタデータ） (2023-11-06T12:15:57Z) - Optimal Transport Regularized Divergences: Application to Adversarial Robustness [4.251030047034567]
本稿では,情報ばらつきと最適輸送(OT)コストの両立によって構築された,最適輸送規則分岐のクラスである$Dc$を紹介する。
特に、ディープラーニングモデルの対角的堅牢性を高めるための新しいアプローチとして、$ARMOR_D$法を提案する。
論文 参考訳（メタデータ） (2023-09-07T15:41:45Z) - Outlier-Robust Optimal Transport: Duality, Structure, and Statistical
Applications [25.410110072480187]
ワッサーシュタイン距離は、考慮された分布における外れ値に敏感である。
本稿では, 汚染された各分布から, $varepsilon$outlier mass を除去できる新しいoutlier-robust Wasserstein distance $mathsfW_pvarepsilon$を提案する。
論文 参考訳（メタデータ） (2021-11-02T04:05:45Z) - Stochastic Optimization of Areas Under Precision-Recall Curves with
Provable Convergence [66.83161885378192]
ROC(AUROC)と精度リコール曲線(AUPRC)の下の領域は、不均衡問題に対する分類性能を評価するための一般的な指標である。
本稿では,深層学習のためのAUPRCの最適化手法を提案する。
論文 参考訳（メタデータ） (2021-04-18T06:22:21Z) - Robust Optimal Transport with Applications in Generative Modeling and
Domain Adaptation [120.69747175899421]
ワッサーシュタインのような最適輸送(OT)距離は、GANやドメイン適応のようないくつかの領域で使用されている。
本稿では,現代のディープラーニングアプリケーションに適用可能な,ロバストなOT最適化の計算効率のよい2つの形式を提案する。
提案手法では, ノイズの多いデータセット上で, 外部分布で劣化したGANモデルをトレーニングすることができる。
論文 参考訳（メタデータ） (2020-10-12T17:13:40Z) - Distributional Robustness and Regularization in Reinforcement Learning [62.23012916708608]
経験値関数の新しい正規化器を導入し、ワッサーシュタイン分布のロバストな値関数を下限とすることを示す。
強化学習における$textitexternalな不確実性に対処するための実用的なツールとして正規化を使用することを提案する。
論文 参考訳（メタデータ） (2020-03-05T19:56:23Z) - A Distributionally Robust Area Under Curve Maximization Model [1.370633147306388]
我々は2つの新しい分散ロバストなAUCモデル(DR-AUC)を提案する。
DR-AUCモデルは関東ロビッチ計量に依存し、AUCとヒンジ損失関数を近似する。
数値実験により,提案したDR-AUCモデルは一般に性能が向上し,特に最悪のアウト・オブ・サンプル性能が向上することが示された。
論文 参考訳（メタデータ） (2020-02-18T02:50:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。