論文の概要: Regret-Optimal Wasserstein-Robust Linear Regression

• arxiv url: http://arxiv.org/abs/2610.42109v1
• Date: Fri, 30 Oct 2026 17:47:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.859622
• Title: Regret-Optimal Wasserstein-Robust Linear Regression
• Title（参考訳）: レグレット最適ワッサーシュタイン-ロバスト線形回帰
• Abstract要約: 分布的に堅牢な最適化は、分布の不確実性の下で最悪のケースリスクを最小化する。 しかし、その決定は過度なリスクや後悔の観点からは最適ではない。 提案手法は, 2つの方法,minimax regret optimization と spectrum-norm regularization がminimax rate に達することを証明した。
• 参考スコア（独自算出の注目度）: 5.38770739535115
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Distributionally robust optimization (DRO) minimizes worst-case risk under distributional uncertainty, but its decisions can be suboptimal in terms of their excess risk, or regret. We study this gap for multivariate least-squares regression, assuming that the observed source law and unknown target law differ by an adversarial 2-Wasserstein perturbation of size $\varepsilon$. We first identify the asymptotic complexity of robust decision-making in the $\varepsilon \to 0$ limit, characterized by a problem-specific condition number $κ$. Here, a wide spectrum of simple algorithms, including DRO, achieve the instance-optimal rate of $O(κ\varepsilon^2)$. For fixed $\varepsilon > 0$, we prove that DRO still achieves the minimax rate if the problem has bounded residual effective rank. On the other hand, we identify significant failure modes where DRO is provably suboptimal by dimension-dependent factors. Fortunately, we prove that two alternative procedures, minimax regret optimization (MRO) and spectral-norm regularization (SNR), attain the minimax rate. We derive an exact convex reformulation of MRO and an accelerated proximal algorithm for SNR, along with high-probability finite-sample guarantees. We support these theoretical results with numerical experiments separating the performance of MRO and SNR from DRO.
• Abstract（参考訳）: 分散ロバストな最適化(DRO)は、分布の不確実性の下で最悪のケースリスクを最小化するが、その決定は過度なリスクや後悔の観点からは最適ではない。 この差分を多変量最小二乗回帰に対して検討し、観測された源法則と未知のターゲット法則が逆2-ワッサーシュタイン摂動サイズ$\varepsilon$で異なることを仮定する。 まず、問題固有条件数$κ$を特徴とする$\varepsilon \to 0$ limitにおけるロバストな意思決定の漸近的複雑性を同定する。 ここでは、DROを含む幅広い単純なアルゴリズムが、O(κ\varepsilon^2)$のインスタンス最適化率を達成する。 固定された$\varepsilon > 0$ に対して、DRO が残差有効ランクが有界である場合、DRO は依然としてミニマックスレートを達成できることを示す。 一方、DROが寸法依存因子によって確実に最適である重要な障害モードを同定する。 幸いなことに、MRO(minimax regret optimization)とSNR(Spectral-norm regularization)という2つの代替手法がミニマックスレートに達することを証明している。 我々は、高確率有限サンプル保証とともに、MROの正確な凸再構成とSNRの高速化された近位アルゴリズムを導出する。 MROとSNRをDROから分離した数値実験により,これらの理論結果を裏付ける。

関連論文リスト

• Robust Average-Reward Markov Decision Processes: Minimax-Optimal Learning via Plug-in Reductions [51.50375419691955]
  分布的に堅牢なマルコフ決定プロセスは、モデルの不確実性の下でのシーケンシャルな意思決定のための原則化されたフレームワークを提供する。 我々は,平均回帰基準の下で,$varepsilon$-Optimal robust policyを学習するのに必要なサンプル数と十分なサンプル数について検討した。
  論文  参考訳（メタデータ） (2026-08-06T19:49:48Z)
• Differentially Private Non-convex Distributionally Robust Optimization [5.6429100834174655]
  現実の展開は、通常、グループの不均衡、敵の摂動に直面し、従来の経験的最小化(ERM)フレームワークは著しく低下する。 本稿では,差分プライバシー(DP)最適化の総合的研究について述べる。 提案手法はDPミニマックス最適化における既存手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2026-02-18T03:00:30Z)
• Provably Efficient Algorithms for S- and Non-Rectangular Robust MDPs with General Parameterization [85.91302339486673]
  我々は、s-正方形および非正方形不確実性集合の下で、一般的な政策パラメータ化を伴うロバストマルコフ決定過程(RMDP)について検討する。 無限状態空間に拡張する一般政策パラメタライゼーションに対する新しいリプシッツ・リプシッツ・スムースネス特性を証明した。 本研究では,S-正方形不確かさに対する勾配降下アルゴリズムと非正方形不確かさに対するFrank-Wolfeアルゴリズムを設計する。
  論文  参考訳（メタデータ） (2026-02-11T21:44:20Z)
• Enhancing Distributional Robustness in Principal Component Analysis by Wasserstein Distances [7.695578200868269]
  主成分分析(PCA)の分布ロバスト最適化(DRO)モデルについて,基礎となる確率分布の不確実性を考慮する。 結果の定式化は非滑らかな制約付き min-max 最適化問題につながり、曖昧性集合はタイプ2$ワッサーシュタイン距離で分布の不確かさを捉える。 この明示的な特徴付けは、元の DRO モデルを、複雑な非滑らかな項を持つスティーフェル多様体上の最小化問題に同値に再構成する。
  論文  参考訳（メタデータ） (2025-03-04T11:00:08Z)
• Drago: Primal-Dual Coupled Variance Reduction for Faster Distributionally Robust Optimization [12.311794669976047]
  本稿では、周期的およびランダム化されたコンポーネントと慎重に正規化された一次更新を組み合わせ、二重分散の低減を実現するプリミティブ・デュアルアルゴリズムであるDragoを提案する。 その設計のため、Dragoは、厳密な凸強凹DRO問題に対する最先端の線形収束率と、原始条件数と双対条件数へのきめ細かい依存を享受している。
  論文  参考訳（メタデータ） (2024-03-16T02:06:14Z)
• Variance-Dependent Regret Bounds for Linear Bandits and Reinforcement Learning: Adaptivity and Computational Efficiency [90.40062452292091]
  本稿では,不整合雑音を持つ線形帯域に対する計算効率のよい最初のアルゴリズムを提案する。 我々のアルゴリズムは未知のノイズの分散に適応し、$tildeO(d sqrtsum_k = 1K sigma_k2 + d)$ regretを達成する。 また、強化学習において、線形混合マルコフ決定過程(MDP)に対する分散適応アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-02-21T00:17:24Z)
• Best Policy Identification in Linear MDPs [70.57916977441262]
  縮退した線形マルコフ+デルタ決定における最適同定問題について, 生成モデルに基づく固定信頼度設定における検討を行った。 複雑な非最適化プログラムの解としての下位境界は、そのようなアルゴリズムを考案する出発点として用いられる。
  論文  参考訳（メタデータ） (2022-08-11T04:12:50Z)
• Non-convex Distributionally Robust Optimization: Non-asymptotic Analysis [16.499651513178012]
  分散ロバスト最適化(DRO)は、分散シフトに対してロバストなモデルを学ぶために広く使われている手法である。 目的関数はおそらく非滑らかであり,正規化勾配降下を有するにもかかわらず,非漸近収束を保証する。
  論文  参考訳（メタデータ） (2021-10-24T14:56:38Z)
• Breaking the Sample Complexity Barrier to Regret-Optimal Model-Free Reinforcement Learning [52.76230802067506]
  漸進的強化学習における後悔を最小限に抑えるために,新しいモデルフリーアルゴリズムを提案する。 提案アルゴリズムは、2つのQ-ラーニングシーケンスの助けを借りて、初期設定された参照更新ルールを用いる。 初期の分散還元法の設計原理は、他のRL設定とは独立した関心を持つかもしれない。
  論文  参考訳（メタデータ） (2021-10-09T21:13:48Z)
• Large-Scale Methods for Distributionally Robust Optimization [53.98643772533416]
  我々のアルゴリズムは、トレーニングセットのサイズとパラメータの数によらず、多くの評価勾配を必要とすることを証明している。 MNIST と ImageNet の実験により,本手法の 9-36 倍の効率性を持つアルゴリズムの理論的スケーリングが確認された。
  論文  参考訳（メタデータ） (2020-10-12T17:41:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。