論文の概要: Worst-case sensitivity
- arxiv url: http://arxiv.org/abs/2010.10794v1
- Date: Wed, 21 Oct 2020 07:19:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-05 00:43:41.808737
- Title: Worst-case sensitivity
- Title(参考訳): 最悪の場合の感度
- Authors: Jun-ya Gotoh, Michael Jong Kim, Andrew E.B.Lim
- Abstract要約: 最悪の場合の感度は、不確実性集合のサイズがなくなるときの分布ロバスト最適化モデルの期待コストの増加率である。
最悪の場合の感度は、偏差の一般測度であり、不確実性集合が小さい場合には、DROモデルが本質的に平均(Worst-case)感度問題であることを示す。
より一般的には、DRO解は不確実集合の族や大きさに敏感であり、最悪の場合の感度の性質を反映することができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce the notion of Worst-Case Sensitivity, defined as the worst-case
rate of increase in the expected cost of a Distributionally Robust Optimization
(DRO) model when the size of the uncertainty set vanishes. We show that
worst-case sensitivity is a Generalized Measure of Deviation and that a large
class of DRO models are essentially mean-(worst-case) sensitivity problems when
uncertainty sets are small, unifying recent results on the relationship between
DRO and regularized empirical optimization with worst-case sensitivity playing
the role of the regularizer. More generally, DRO solutions can be sensitive to
the family and size of the uncertainty set, and reflect the properties of its
worst-case sensitivity. We derive closed-form expressions of worst-case
sensitivity for well known uncertainty sets including smooth $\phi$-divergence,
total variation, "budgeted" uncertainty sets, uncertainty sets corresponding to
a convex combination of expected value and CVaR, and the Wasserstein metric.
These can be used to select the uncertainty set and its size for a given
application.
- Abstract(参考訳): 本稿では,不確実性集合のサイズがなくなると,分散ロバスト最適化(DRO)モデルが期待されるコストの最悪の増加率として定義されるWorst-Case Sensitivityの概念を紹介する。
その結果,不確実性セットが小さい場合,doモデルの大きなクラスは本質的に平均(ワーストケース)感度問題であり,droと正規化経験的最適化の関係に関する最近の結果を統一し,最悪の場合の感度がレギュラライザの役割を担っていることを示した。
より一般的には、DRO解は不確実集合の族や大きさに敏感であり、最悪の場合の感度の性質を反映することができる。
我々は,スムーズな$\phi$-divergence,全変動,「予算」不確実性集合,期待値とCVaRの凸結合に対応する不確実性集合,ワッサーシュタイン計量など,よく知られた不確実性集合に対する最悪ケース感度の閉形式式を導出した。
これらは与えられたアプリケーションに対する不確実集合とそのサイズを選択するのに使うことができる。
関連論文リスト
- End-to-End Conformal Calibration for Optimization Under Uncertainty [32.844953018302874]
本稿では,条件最適化のための不確実性推定を学習するためのエンドツーエンドフレームワークを開発する。
さらに,部分凸ニューラルネットワークを用いた任意の凸不確実性集合の表現を提案する。
我々のアプローチは2段階最適化によって一貫して改善される。
論文 参考訳(メタデータ) (2024-09-30T17:38:27Z) - Model-Based Epistemic Variance of Values for Risk-Aware Policy Optimization [59.758009422067]
モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。
本稿では,リスク・サーキングとリスク・アバース・ポリシー最適化のいずれにも適用可能な汎用ポリシー最適化アルゴリズムQ-Uncertainty Soft Actor-Critic (QU-SAC)を導入する。
論文 参考訳(メタデータ) (2023-12-07T15:55:58Z) - On the Variance, Admissibility, and Stability of Empirical Risk
Minimization [80.26309576810844]
2乗損失を持つ経験的リスク最小化(ERM)は、極小最適誤差率に達する可能性がある。
軽微な仮定では、ERMの準最適性はばらつきよりも大きなバイアスによるものでなければならない。
また、我々の推定は、非ドンスカー類に対するCaponnetto と Rakhlin (2006) の主な結果を補完する ERM の安定性を示唆している。
論文 参考訳(メタデータ) (2023-05-29T15:25:48Z) - The Curious Price of Distributional Robustness in Reinforcement Learning with a Generative Model [61.87673435273466]
本稿では,強化学習(RL)におけるモデルロバスト性を検討した。
我々は,デプロイ環境が,名目MDPに規定された不確実性に陥る場合に,最悪の場合のパフォーマンスを最適化する政策を学習することを目的とした,分布的に堅牢なマルコフ決定プロセス(RMDP)の枠組みを採用する。
論文 参考訳(メタデータ) (2023-05-26T02:32:03Z) - Robust Generalization against Photon-Limited Corruptions via Worst-Case
Sharpness Minimization [89.92932924515324]
ロバスト一般化は、トレーニングセットで稀であり、厳しいノイズを含む最も困難なデータ分散に取り組むことを目的としている。
分散ロバスト最適化(DRO)のような一般的なソリューションは、低いトレーニングエラーを保証するための最悪の経験的リスクに焦点を当てている。
本稿では,学習パラメータの近傍における損失変化を計測し,最悪ケース分布の鋭さをペナルティ化し,シャープDROを提案する。
シャープDROは、汚職に対する強力な一般化能力を示し、高い性能向上を有するよく知られたベースライン法を超えることを示す。
論文 参考訳(メタデータ) (2023-03-23T07:58:48Z) - On Calibrated Model Uncertainty in Deep Learning [0.0]
損失校正されたベイジアンフレームワークの近似推論を,ドロップウェイトに基づくベイジアンニューラルネットワークに拡張する。
損失校正された不確実性から得られる決定は、簡単な代替手段よりも、診断性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2022-06-15T20:16:32Z) - Robustness and Accuracy Could Be Reconcilable by (Proper) Definition [109.62614226793833]
強靭性と精度のトレードオフは、敵文学において広く研究されている。
局所的不変性の帰納的バイアスを課す不適切に定義された頑健な誤差に由来する可能性がある。
定義上、SCOREは、最悪のケースの不確実性に対処しながら、堅牢性と正確性の間の和解を促進する。
論文 参考訳(メタデータ) (2022-02-21T10:36:09Z) - Empirical Risk Minimization with Relative Entropy Regularization:
Optimality and Sensitivity Analysis [7.953455469099826]
ERM-RER問題の解からの偏差に対する期待される経験的リスクの感度について検討した。
感度の期待値は、モデルとデータセット間のラウタム情報の正方根によって、最大で一定の係数まで上限づけられている。
論文 参考訳(メタデータ) (2022-02-09T10:55:14Z) - Instance-optimality in optimal value estimation: Adaptivity via
variance-reduced Q-learning [99.34907092347733]
本稿では,マルコフ決定過程における最適な$Q$値関数を離散状態と動作で推定する問題を解析する。
局所的なミニマックスフレームワークを用いて、この関数は任意の推定手順の精度の低い境界に現れることを示す。
他方,Q$ラーニングの分散還元版を解析することにより,状態と行動空間の対数的要因まで,下位境界のシャープさを確立する。
論文 参考訳(メタデータ) (2021-06-28T00:38:54Z) - Conformal Uncertainty Sets for Robust Optimization [0.0]
マハラノビス距離を多目的回帰と共同予測領域の構築のための新しい関数として用いる。
また、共形予測領域をロバストな最適化に結び付け、有限サンプル有効かつ保守的な不確実性集合を提供する。
論文 参考訳(メタデータ) (2021-05-31T13:42:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。