論文の概要: Brenier Meets Adversarial Training: Optimal Transport Geometry for Robust Learning
- arxiv url: http://arxiv.org/abs/2609.31363v1
- Date: Fri, 25 Sep 2026 14:57:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.447958
- Title: Brenier Meets Adversarial Training: Optimal Transport Geometry for Robust Learning
- Title(参考訳): Brenierと対人訓練:ロバスト学習のための最適輸送幾何学
- Abstract要約: 分散ロバストな最適化(DRO)は、分散シフトの下で学習するための原則的なフレームワークを提供する。
DROは分散シフト下での学習の枠組みを提供するが、その実践的利用は敵問題を評価することの難しさによって妨げられている。
- 参考スコア(独自算出の注目度): 18.407648953801402
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Distributionally robust optimization (DRO) provides a principled framework for learning under distribution shift, but its practical use is hindered by the difficulty of evaluating worst-case risks for nonconvex loss functions. We study a penalized DRO formulation in which the adversary may choose any distribution but incurs a Wasserstein penalty for deviating from the empirical distribution. We show that the adversary's problem can be reformulated as an optimization problem over transport maps that push empirical samples to adversarial ones, and we prove that optimal maps are cyclically monotone. We also show that standard adversarial training---based on per-sample local optimization---violates cyclical monotonicity and wastes transport costs unless the adversary is severely restricted. We propose two remedies. First, we introduce multi-start particle ascent, which alternates parallel gradient ascent with reassignment to enforce cyclical monotonicity across samples. Second, we parameterize adversarial maps as gradients of input-convex neural networks, which guarantees cyclical monotonicity by construction. Experiments on robust regression, image classification, and robust control show that our methods consistently outperform standard adversarial training and state-of-the-art baselines, achieving improved robustness and better generalization under distribution shift.
- Abstract(参考訳): 分散ロバストな最適化(DRO)は、分散シフト下での学習の原則的枠組みを提供するが、非凸損失関数の最悪のリスクを評価することの難しさにより、その実用性が妨げられる。
本研究では, 相手が任意の分布を選択することができるが, 経験的分布から逸脱したワッサーシュタインのペナルティを生じるペナル化DROの定式化について検討する。
本研究では, 実験試料を対向マップにプッシュする輸送マップに対する最適化問題として, 最適写像が循環単調であることを証明する。
また, サンプルごとの局所最適化に基づく標準的な対人訓練は, 相手が厳しく制限されない限り, 循環的単調性や廃棄物輸送コストを侵害することを示した。
我々は2つの治療法を提案する。
まず, 並列勾配上昇と再割り当てを交互に行い, 試料間の循環的単調性を強制するマルチスタート粒子昇華法を提案する。
第二に、逆写像を入力凸ニューラルネットワークの勾配としてパラメータ化し、構築による巡回単調性を保証する。
頑健な回帰、画像分類、ロバスト制御の実験は、我々の手法が標準的対角訓練と最先端のベースラインを一貫して上回り、分散シフト下での堅牢性の向上とより優れた一般化を実現していることを示している。
関連論文リスト
- When In-Distribution Gains Fail: Evaluating Weak-to-Strong Reward Models under Preference Shift [72.0686608132772]
ゼロショット分布シフト下でのW2S選好学習について検討した。
弱い選好ラベルで訓練された強い学生は、選好データセットを移動できなくとも、流通に成功していることがわかった。
本稿では、事前訓練された強モデルの表現空間からの過剰なドリフトを制約する単純で効果的な正規化器であるRepresentation Anchoring(Anchor)を提案する。
論文 参考訳(メタデータ) (2026-05-25T09:30:49Z) - Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。
グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。
特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
論文 参考訳(メタデータ) (2026-04-20T16:43:28Z) - Worst-case generation via minimax optimization in Wasserstein space [19.645939141861543]
最悪のケース生成は、分散シフト下でのロバストネスとストレステストシステムを評価する上で重要な役割を果たす。
我々は,所定のリスクに対する最悪のケース生成のための生成モデリングフレームワークを開発する。
論文 参考訳(メタデータ) (2025-12-09T02:11:08Z) - Distributionally Robust Optimization with Adversarial Data Contamination [49.89480853499918]
凸リプシッツ損失関数を持つ一般化線形モデルに対するワッサーシュタイン-1 DRO 目標の最適化に焦点をあてる。
私たちの主な貢献は、データ汚染のトレーニングに対するロバストネスと分散シフトに対するロバストネスを統合した、新しいモデリングフレームワークです。
この研究は、データ汚染と分散シフトという2つの課題の下で学習するために、効率的な計算によって支援される最初の厳密な保証を確立する。
論文 参考訳(メタデータ) (2025-07-14T18:34:10Z) - TransFusion: Covariate-Shift Robust Transfer Learning for High-Dimensional Regression [11.040033344386366]
対象タスクの学習性能を限定的なサンプルで向上させるため, 新規な融合正規化器を用いた2段階の手法を提案する。
対象モデルの推定誤差に対して、漸近的境界が提供される。
提案手法を分散設定に拡張し,事前学習ファインタニング戦略を実現する。
論文 参考訳(メタデータ) (2024-04-01T14:58:16Z) - Boosting Adversarial Transferability by Achieving Flat Local Maxima [23.91315978193527]
近年、様々な敵の攻撃が出現し、異なる視点から敵の移動可能性を高めている。
本研究では, 平坦な局所領域における逆例が良好な伝達性を持つ傾向があることを仮定し, 実証的に検証する。
目的関数の勾配更新を簡略化する近似最適化法を提案する。
論文 参考訳(メタデータ) (2023-06-08T14:21:02Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - A One-step Approach to Covariate Shift Adaptation [82.01909503235385]
多くの機械学習シナリオにおけるデフォルトの前提は、トレーニングとテストサンプルは同じ確率分布から引き出されることである。
予測モデルと関連する重みを1つの最適化で共同で学習する新しいワンステップアプローチを提案する。
論文 参考訳(メタデータ) (2020-07-08T11:35:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。