論文の概要: Priced Motion Through Optimal Faces: A Normal-Fan Geometry for Non-Stationary Adversarial MDPs
- arxiv url: http://arxiv.org/abs/2606.29092v1
- Date: Sat, 27 Jun 2026 21:20:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.784797
- Title: Priced Motion Through Optimal Faces: A Normal-Fan Geometry for Non-Stationary Adversarial MDPs
- Title(参考訳): 最適な顔を通しての価格運動:非定常対向型MDPのノーマルファン形状
- Abstract要約: 固定遷移を持つ有限水平逆 MDP に対する正規ファン幾何を開発する。
報酬の非定常性は通常のファンを通り抜ける経路であり、1つの円錐内の動きは最適な顔を変えない。
我々は、新たな損失の下で、前回の最適面に残ることによる最小の後悔である、対面価格の概念を提示する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In a changing decision problem, standard dynamic-regret analyses have often equated the cost of non-stationarity to how far loss moves. However, it is simultaneously possible for a loss sequence to travel far and retain the same optimal policy, or for a small movement in loss to force the optimal policy to change completely. Thus, the size of the movement through loss variation, transition variation, or comparator path length describe the adversary's motion, but not the cost of that motion to the control problem. For a more faithful analytic interpretation, this paper develops a normal-fan geometry for finite-horizon adversarial MDPs with fixed transitions. Occupancy measures form a polytope, and each loss vector exposes an optimal face of that polytope. Non-stationarity in rewards is therefore a path through the normal fan, where motion inside one cone leaves the optimal face unchanged, while crossing a wall may carry regret. We pose the notion of a face-crossing price, which is the minimum regret incurred by remaining on the previous optimal face under the new loss. For any learner that tracks the previous face, dynamic regret decomposes exactly into intrinsic priced face motion plus within-face selection error. The resulting theory separates consequential from harmless non-stationarity, where loss variation can be arbitrarily large at zero price, and identical one-coordinate variation can hide horizon-scale differences in regret.
- Abstract(参考訳): 変化する決定問題において、標準的な動的回帰分析は、しばしば損失の移動に非定常性のコストをあてはめる。
しかし、損失シーケンスが遠くに移動し、同じ最適なポリシーを維持することも同時に可能であり、また、損失の小さな動きによって、最適なポリシーを完全に変更させることもできる。
したがって、損失変動、遷移変化、またはコンパレータパス長による動きの大きさは、敵の動きを表すが、制御問題に対するその動きのコストは表さない。
より忠実な解析的解釈のために、固定遷移を持つ有限水平逆数 MDP に対する正規ファン幾何を開発する。
占有度測定はポリトープを形成し、各損失ベクトルはそのポリトープの最適面を公開する。
したがって、報酬の非定常性は通常のファンを通り抜ける道であり、1つの円錐内の動きは最適な顔を変えず、壁を横切ると後悔する可能性がある。
我々は、新たな損失の下で、前回の最適面に残ることによる最小の後悔である、対面価格の概念を提示する。
前の顔を追跡する学習者にとって、動的後悔は本質的に価格の高い顔の動きと顔内選択誤差に正確に分解される。
結果として生じる理論は、損失の変動がゼロの価格で任意に大きくなり、同一の1座標の変動は、後悔の地平線スケールの違いを隠蔽することができる、無害な非定常性から連続的に分離する。
関連論文リスト
- Some Modifications to Our End-to-End UAV Planner [2.3190673374277524]
一段プランナーは、単一の深度画像とロボット状態とを直接、候補軌跡のセットにマッピングする。
YOPOのマルチモーダル予測は、異なるホモトピークラスにまたがり、各動作を、明確な安全構築や建設の罰則を伴わずに、軌道を許容可能な軌道に閉じ込める軌跡として扱う。
論文 参考訳(メタデータ) (2026-08-16T13:39:46Z) - Bandit Convex Optimization with Gradient Prediction Adaptivity [56.816177049016794]
本研究では, 楽観的な勾配予測が, 最悪の後悔の保証を予測順応的に改善できるかどうかを考察する。
鍵となるアイデアは、分散が勾配ノルムではなく予測誤差でスケールする、新しい分散還元勾配推定器である。
我々は、$(sqrtmathbbE[S_T])$としてスケールする情報理論の下限を確立し、最も達成可能な予測適応的後悔の基本的な特徴を提供する。
論文 参考訳(メタデータ) (2026-05-21T08:57:38Z) - Per-Loss Adapters for Gradient Conflict in Physics-Informed Neural Networks [3.1861308132183375]
PINN勾配競合は1つの普遍的治療を伴う一様障害モードではないことを示す。
異なる介入クラスに関連付けられた個別のPINN勾配コンフリクトレギュレーションを同定した。
論文 参考訳(メタデータ) (2026-05-11T07:46:07Z) - Rolling Ball Optimizer: Learning by ironing out loss landscape wrinkles [19.667068548957143]
大規模ニューラルネットワーク(NN)のトレーニングには,高次元データ依存損失関数の最適化が必要である。
これらの関数は、しばしば非常に複雑で、テクスチャがあり、フラクタル的ですらある。
トレーニングデータのノイズは前方に伝播し、非表現的な小さな幾何学をもたらす。
論文 参考訳(メタデータ) (2025-05-26T05:26:21Z) - Near-Optimal Dynamic Regret for Adversarial Linear Mixture MDPs [63.47351876442425]
本研究は,完全情報フィードバックの下で,相変わらずの相変わらずの線形混合MDPについて検討した。
本稿では,占領率に基づく手法と政策に基づく手法の利点を組み合わせた新しいアルゴリズムを提案する。
我々のアルゴリズムは$widetildemathcalO(d sqrtH3 K + sqrtHK(H + barP_K$)$ dynamic regret, ここで$d$は特徴次元である。
論文 参考訳(メタデータ) (2024-11-05T13:55:52Z) - Non-stationary Delayed Online Convex Optimization: From Full-information to Bandit Setting [71.82716109461967]
遅延勾配が利用できる全情報ケースに対して Mild-OGD というアルゴリズムを提案する。
ミルド-OGDのダイナミックな後悔は、順番の仮定の下で$O(sqrtbardT(P_T+1))$で自動的に束縛されることを示す。
Mild-OGDのバンディット版も開発し,損失値の遅れのみを考慮に入れた,より困難なケースについて検討した。
論文 参考訳(メタデータ) (2023-05-20T07:54:07Z) - Smoothed Online Convex Optimization Based on Discounted-Normal-Predictor [68.17855675511602]
円滑なオンライン凸最適化(SOCO)のためのオンライン予測戦略について検討する。
提案アルゴリズムは,各区間の切替コストで適応的後悔を最小限に抑えることができることを示す。
論文 参考訳(メタデータ) (2022-05-02T08:48:22Z) - Between Stochastic and Adversarial Online Convex Optimization: Improved
Regret Bounds via Smoothness [2.628557920905129]
我々は,オンライン凸最適化において,対人的損失と完全対人的損失を補間する新たな後悔境界を確立する。
この目的を達成するために、損失系列に関連する2つの重要な量を導入し、累積分散と対角変動と呼ぶ。
完全な i.d. の場合、我々の境界は加速の結果から期待される速度と一致し、完全に反対の場合、ミニマックスの後悔と一致するように優雅に劣化する。
論文 参考訳(メタデータ) (2022-02-15T16:39:33Z) - Adaptivity and Non-stationarity: Problem-dependent Dynamic Regret for Online Convex Optimization [70.4342220499858]
本稿では,スムーズさを生かし,問題依存量による動的後悔のT$への依存を補う新しいオンラインアルゴリズムを提案する。
この結果が本質的な難易度に適応しているのは, 既往の結果よりも厳密であり, 最悪の場合, 同一レートの保護が可能であるからである。
論文 参考訳(メタデータ) (2021-12-29T02:42:59Z) - GAN "Steerability" without optimization [32.63317794951011]
操縦」の方向は意味的に意味のある画像変換に対応する。
本稿では,発電機の重みから直接「ステアリング」軌道をクローズド形式で計算できることを示した。
論文 参考訳(メタデータ) (2020-12-09T21:34:34Z) - Dynamic Regret of Convex and Smooth Functions [93.71361250701075]
非定常環境におけるオンライン凸最適化について検討する。
パフォーマンス指標として動的後悔を選択します。
本研究では, 滑らかさを活かして, 動的後悔をさらに高めることが可能であることを示す。
論文 参考訳(メタデータ) (2020-07-07T14:10:57Z) - Upper Confidence Primal-Dual Reinforcement Learning for CMDP with
Adversarial Loss [145.54544979467872]
マルコフ決定過程(CMDP)に対するオンライン学習の検討
本稿では,遷移モデルから標本化した軌跡のみを必要とする,新しいEmphupper confidence primal-dualアルゴリズムを提案する。
我々の分析では、ラグランジュ乗算過程の新たな高確率ドリフト解析を、高信頼強化学習の記念後悔解析に組み入れている。
論文 参考訳(メタデータ) (2020-03-02T05:02:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。