論文の概要: Tikhonov Regularization is Optimal Transport Robust under Martingale
Constraints
- arxiv url: http://arxiv.org/abs/2210.01413v1
- Date: Tue, 4 Oct 2022 06:50:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-05 13:47:39.302974
- Title: Tikhonov Regularization is Optimal Transport Robust under Martingale
Constraints
- Title(参考訳): Tikhonov正則化はMartingale制約下での最適輸送ロバストである
- Authors: Jiajin Li, Sirui Lin, Jose Blanchet, Viet Anh Nguyen
- Abstract要約: ティホノフ正則化は最適輸送意味で分布的に堅牢である。
既存のロバストなメソッドのクラスに対して統一的な視点を提供するマーチンゲール制約の緩和を導入する。
これらの新しいツールを実現するために,トラクタブルな計算アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 17.033055327465235
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Distributionally robust optimization has been shown to offer a principled way
to regularize learning models. In this paper, we find that Tikhonov
regularization is distributionally robust in an optimal transport sense (i.e.,
if an adversary chooses distributions in a suitable optimal transport
neighborhood of the empirical measure), provided that suitable martingale
constraints are also imposed. Further, we introduce a relaxation of the
martingale constraints which not only provides a unified viewpoint to a class
of existing robust methods but also leads to new regularization tools. To
realize these novel tools, tractable computational algorithms are proposed. As
a byproduct, the strong duality theorem proved in this paper can be potentially
applied to other problems of independent interest.
- Abstract(参考訳): 分布的ロバストな最適化は、学習モデルを規則化する原則的な方法を提供することが示されている。
本稿では,適切なマルティンゲール制約が課されることを条件として,ティホノフ正則化が最適輸送感覚(すなわち,逆者が適切な最適輸送近傍の分布を選択する場合)において分布的に頑健であることを見いだす。
さらに,既存のロバストなメソッドのクラスに対して統一的な視点を提供するだけでなく,新たな正規化ツールにもつながる,martingale制約の緩和も導入する。
これらの新しいツールを実現するために,トラクタブルな計算アルゴリズムを提案する。
副産物として、本論文で証明された強い双対性定理は、独立利害関係の他の問題にも応用することができる。
関連論文リスト
- A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Uncertainty Quantification via Stable Distribution Propagation [60.065272548502]
本稿では,ニューラルネットワークによる安定確率分布の伝播手法を提案する。
提案手法は局所線形化に基づいており,ReLU非線型性に対する全変動距離の近似値として最適であることを示す。
論文 参考訳(メタデータ) (2024-02-13T09:40:19Z) - Coverage-Validity-Aware Algorithmic Recourse [23.643366441803796]
本稿では,モデルシフトに対するロバスト性を示すモデルに依存しない談話を生成する新しい枠組みを提案する。
筆者らのフレームワークはまず,非線形(ブラックボックス)モデルのカバレッジを意識した線形サロゲートを構築する。
我々の代理は近似超平面を直感的に推し進め、頑健なだけでなく解釈可能なレコースも容易にすることを示した。
論文 参考訳(メタデータ) (2023-11-19T15:21:49Z) - Constrained Reweighting of Distributions: an Optimal Transport Approach [8.461214317999321]
重みに対する非パラメトリックな分布制約を導入し、最適輸送から最大エントロピー原理とツールを利用する一般的な枠組みを開発する。
このフレームワークは、ポートフォリオ割り当て、複雑なサーベイのための半パラメトリック推論、機械学習アルゴリズムにおけるアルゴリズムフェアネスの3つの異なる応用の文脈で実証されている。
論文 参考訳(メタデータ) (2023-10-19T03:54:31Z) - Unifying Distributionally Robust Optimization via Optimal Transport
Theory [13.19058156672392]
本稿では,これらの手法を最適輸送に基づく単一フレームワークに統一する新しい手法を提案する。
提案手法により,最適対向分布が同時に摂動確率と結果を得ることが可能となる。
本稿では, この統合フレームワークの実用性を高めるための, トラクタブルな改質手法を提案する。
論文 参考訳(メタデータ) (2023-08-10T08:17:55Z) - On the Variance, Admissibility, and Stability of Empirical Risk
Minimization [80.26309576810844]
2乗損失を持つ経験的リスク最小化(ERM)は、極小最適誤差率に達する可能性がある。
軽微な仮定では、ERMの準最適性はばらつきよりも大きなバイアスによるものでなければならない。
また、我々の推定は、非ドンスカー類に対するCaponnetto と Rakhlin (2006) の主な結果を補完する ERM の安定性を示唆している。
論文 参考訳(メタデータ) (2023-05-29T15:25:48Z) - New Perspectives on Regularization and Computation in Optimal
Transport-Based Distributionally Robust Optimization [8.564319625930892]
本研究では, 有限の輸送コストで所定の基準分布による不確実な問題パラメータの分布を選択することができるような, 最適輸送に基づく分布安定度最適化問題について検討する。
論文 参考訳(メタデータ) (2023-03-07T13:52:32Z) - Learning to Optimize with Stochastic Dominance Constraints [103.26714928625582]
本稿では,不確実量を比較する問題に対して,単純かつ効率的なアプローチを開発する。
我々はラグランジアンの内部最適化をサロゲート近似の学習問題として再考した。
提案したライト-SDは、ファイナンスからサプライチェーン管理に至るまで、いくつかの代表的な問題において優れた性能を示す。
論文 参考訳(メタデータ) (2022-11-14T21:54:31Z) - On Lower Bounds for Standard and Robust Gaussian Process Bandit
Optimization [55.937424268654645]
有界ノルムを持つ関数のブラックボックス最適化問題に対するアルゴリズム非依存な下界を考える。
本稿では, 単純さ, 汎用性, エラー確率への依存性の向上など, 後悔の下位境界を導出するための新しい証明手法を提案する。
論文 参考訳(メタデータ) (2020-08-20T03:48:14Z) - Achieving robustness in classification using optimal transport with
hinge regularization [7.780418853571034]
最適輸送に基づく二項分類のための新しいフレームワークを提案する。
我々は、ワッサーシュタイン距離推定のためのカントロビッチ・ルビンシュタイン双対定式化のヒンジ正規化版である新しい損失を用いて1-Lipschitzネットワークを学習する。
論文 参考訳(メタデータ) (2020-06-11T15:36:23Z) - Learning the Truth From Only One Side of the Story [58.65439277460011]
一般化線形モデルに焦点をあて、このサンプリングバイアスを調整しなければ、モデルは準最適に収束するか、あるいは最適解に収束しないかもしれないことを示す。
理論的保証を伴って適応的なアプローチを提案し、いくつかの既存手法を実証的に上回っていることを示す。
論文 参考訳(メタデータ) (2020-06-08T18:20:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。