論文の概要: Online Stochastic Convex Optimization: Wasserstein Distance Variation
- arxiv url: http://arxiv.org/abs/2006.01397v2
- Date: Tue, 29 Sep 2020 22:14:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-26 00:21:28.318367
- Title: Online Stochastic Convex Optimization: Wasserstein Distance Variation
- Title（参考訳）: オンライン確率凸最適化 - Wasserstein 距離変動
- Authors: Iman Shames and Farhad Farokhi
- Abstract要約: 滑らかな凸関数の期待値の最小値を追跡するためのオンライン近勾配法について検討する。
システムや制御文献にインスパイアされた推定・追跡誤差の概念を再考する。
我々は、強い凸性、勾配のリプシッツ性、確率分布のドリフトに対する境界を与える。
- 参考スコア（独自算出の注目度）: 15.313864176694832
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Distributionally-robust optimization is often studied for a fixed set of
distributions rather than time-varying distributions that can drift
significantly over time (which is, for instance, the case in finance and
sociology due to underlying expansion of economy and evolution of
demographics). This motivates understanding conditions on probability
distributions, using the Wasserstein distance, that can be used to model
time-varying environments. We can then use these conditions in conjunction with
online stochastic optimization to adapt the decisions. We considers an online
proximal-gradient method to track the minimizers of expectations of smooth
convex functions parameterised by a random variable whose probability
distributions continuously evolve over time at a rate similar to that of the
rate at which the decision maker acts. We revisit the concepts of estimation
and tracking error inspired by systems and control literature and provide
bounds for them under strong convexity, Lipschitzness of the gradient, and
bounds on the probability distribution drift. Further, noting that computing
projections for a general feasible sets might not be amenable to online
implementation (due to computational constraints), we propose an exact penalty
method. Doing so allows us to relax the uniform boundedness of the gradient and
establish dynamic regret bounds for tracking and estimation error. We further
introduce a constraint-tightening approach and relate the amount of tightening
to the probability of satisfying the constraints.
- Abstract（参考訳）: 分散的ロバスト最適化は、時間とともに著しくドリフトできる時間変化分布ではなく、固定された分布に対してしばしば研究される(例えば、経済の根底にある拡大と人口動態の進化による金融と社会学の場合)。
これは確率分布の理解条件をワッサーシュタイン距離を用いて動機付け、時間変化環境をモデル化することができる。
そして、これらの条件をオンライン確率最適化と組み合わせて決定に適応することができる。
確率分布が連続的に変化する確率変数によってパラメータ化される滑らかな凸関数の期待値の最小化を,意思決定者が行動する速度に類似した速度で追跡するオンライン近位勾配法を考える。
システムや制御文献に着想を得た推定・追跡誤差の概念を再検討し, 強い凸性, 勾配のリプシッツ性, 確率分布のドリフトの有界性について検討する。
さらに,一般実現可能な集合に対する計算予測は,オンライン実装には適さない(計算制約のため)ことを指摘し,正確なペナルティ法を提案する。
そうすることで、勾配の均一な有界性を緩和し、追跡と推定誤差の動的後悔境界を確立することができる。
さらに,制約厳密化手法を導入し,制約を満たす確率に締固めの量を関連づける。
関連論文リスト
- Constrained Sampling with Primal-Dual Langevin Monte Carlo [15.634831573546041]
この研究は、正規化定数まで既知の確率分布からサンプリングする問題を考察する。
一般非線形関数の期待値によって定義された統計的制約の集合を満たす。
我々は,目標分布とサンプルを同時に制約する離散時間原始二元Langevin Monte Carloアルゴリズム(PD-LMC)を提唱した。
論文 参考訳（メタデータ） (2024-11-01T13:26:13Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳（メタデータ） (2024-06-05T13:36:38Z) - Probabilistic Forecasting with Stochastic Interpolants and Föllmer Processes [18.344934424278048]
生成モデルに基づく動的システムの確率的予測のためのフレームワークを提案する。
このSDEのドリフトと拡散係数は訓練後に調整できることを示し、推定誤差の影響を最小限に抑える特定の選択がF"ollmerプロセスを与えることを示した。
論文 参考訳（メタデータ） (2024-03-20T16:33:06Z) - Uncertainty Quantification via Stable Distribution Propagation [60.065272548502]
本稿では,ニューラルネットワークによる安定確率分布の伝播手法を提案する。
提案手法は局所線形化に基づいており,ReLU非線型性に対する全変動距離の近似値として最適であることを示す。
論文 参考訳（メタデータ） (2024-02-13T09:40:19Z) - Distributionally Time-Varying Online Stochastic Optimization under
Polyak-{\L}ojasiewicz Condition with Application in Conditional Value-at-Risk
Statistical Learning [9.749745086213215]
オンライン最適化のレンズによる時間変化分布に続き、一連の最適化問題を考察する。
本研究では,CVaR学習問題に適用可能であることを示す。
論文 参考訳（メタデータ） (2023-09-18T00:47:08Z) - On tracking varying bounds when forecasting bounded time series [0.0]
我々は、有界なランダム変数が時間とともに変化する未観測のバウンダリを持つ新しいフレームワークを考える。
本稿では,オンラインの有界確率推定を行うために,ログライクな推定手法を提案する。
論文 参考訳（メタデータ） (2023-06-23T10:44:49Z) - Numerically Stable Sparse Gaussian Processes via Minimum Separation
using Cover Trees [57.67528738886731]
誘導点に基づくスケーラブルスパース近似の数値安定性について検討する。
地理空間モデリングなどの低次元タスクに対しては,これらの条件を満たす点を自動計算する手法を提案する。
論文 参考訳（メタデータ） (2022-10-14T15:20:17Z) - Rockafellian Relaxation and Stochastic Optimization under Perturbations [0.056247917037481096]
我々は、ロカフェル緩和に基づく楽観的なフレームワークを開発し、最適化は元の決定空間だけでなく、モデルの選択と共同で行われる。
この枠組みは、厳密かつ厳密なロックフェリアンの新たな概念に焦点を合わせ、特定の設定で否定的な「正規化」の解釈が現れる。
論文 参考訳（メタデータ） (2022-04-10T20:02:41Z) - Distributed Sketching for Randomized Optimization: Exact
Characterization, Concentration and Lower Bounds [54.51566432934556]
我々はヘシアンの形成が困難である問題に対する分散最適化法を検討する。
ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。
論文 参考訳（メタデータ） (2022-03-18T05:49:13Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳（メタデータ） (2021-06-07T17:44:49Z) - Learning Interpretable Deep State Space Model for Probabilistic Time
Series Forecasting [98.57851612518758]
確率的時系列予測は、その歴史に基づいて将来の分布を推定する。
本稿では,非線形エミッションモデルと遷移モデルとをネットワークによってパラメータ化した,確率的時系列予測のための深部状態空間モデルを提案する。
実験では,我々のモデルが正確かつ鋭い確率予測を生成することを示す。
論文 参考訳（メタデータ） (2021-01-31T06:49:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。