論文の概要: Risk-Aware Optimal Control with Rulebooks
- arxiv url: http://arxiv.org/abs/2609.05199v1
- Date: Fri, 04 Sep 2026 14:32:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:24.071175
- Title: Risk-Aware Optimal Control with Rulebooks
- Title(参考訳): ルールブックによるリスク認識最適制御
- Abstract要約: 評価において、異なる優先順位と不確実性を有する複数の要件を含む安全クリティカルな制御問題を考察する。
リスク対応ルールブックを使用してこれらの要件を表現し、各要件にはリスク尺度と許容しきい値が割り当てられる。
各要件は、ポリシーを違反に関連するリスクにマッピングするリスク評価関数を誘導する。
- 参考スコア(独自算出の注目度): 0.9875942542881044
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider safety-critical control problems involving multiple requirements with different priorities and uncertainty in their evaluation. We represent these requirements using risk-aware rulebooks, where each requirement is assigned a risk measure and an acceptable threshold, and a priority relation is defined among the requirements. Each requirement induces a risk-evaluation function that maps a policy to the risk associated with its violation. We formulate risk-aware optimal control with rulebooks as a lexicographic optimization problem over excess risks and develop an anytime filtering and branch-and-bound algorithm that progressively tightens the certified optimality gap while characterizing the corresponding set of policies at each priority level. The algorithm returns a policy together with these gaps, which bound its suboptimality. We prove that these gaps are valid for any finite computational budget and, under additional assumptions, converge to zero as the computational budget increases. We evaluate the algorithm on a synthetic benchmark with a known optimum and a realistic highway-merging simulation with CVaR-based collision, rear-braking, headway, and comfort rules.
- Abstract(参考訳): 評価において、異なる優先順位と不確実性を有する複数の要件を含む安全クリティカルな制御問題を考察する。
リスク対応ルールブックを用いてこれらの要件を表現し、各要件にリスク尺度と許容しきい値が割り当てられ、要件間で優先度関係が定義される。
各要件は、ポリシーを違反に関連するリスクにマッピングするリスク評価関数を誘導する。
本稿では,過剰リスクに対するレキシコグラフィー最適化問題としてルールブックを用いたリスク対応最適制御を定式化し,各優先度レベルで対応するポリシーのセットを特徴付けるとともに,証明された最適性ギャップを段階的に強化する任意の時間フィルタリングと分岐結合アルゴリズムを開発する。
このアルゴリズムは、これらのギャップと共にポリシーを返します。
これらのギャップは、任意の有限計算予算に対して有効であり、追加の仮定の下では、計算予算が増加するにつれてゼロに収束する。
本アルゴリズムは, CVaRによる衝突, リアブレーキ, ヘッドウェイ, 快適なルールを用いて, 既知の最適化と現実的なハイウェイマージシミュレーションを用いて, 合成ベンチマークで評価した。
関連論文リスト
- A Noise-Robust Elicit-to-Optimize Framework for Distortion Riskmetrics via Inverse Reinforcement Learning [6.58410442967839]
逆強化学習(IRL)と強化学習(RL)を統合したノイズローバスト・エリシット・トゥ・オプティマイズ・フレームワークを提案する。
適応型IRL法では,雑音の観測結果からエージェントの潜在リスク目標を推定する手法を提案する。
総合的な実証研究は、複雑な金融環境におけるフレームワークのエレケーションの正確さと有効性を示している。
論文 参考訳(メタデータ) (2026-07-15T21:22:50Z) - Pessimistic Risk-Aware Policy Learning in Contextual Bandits [3.085723806353297]
本稿では,一般的なリスク基準の下で最適なログデータから決定ルールを学習することを目的とした,リスク対応型オフライン政策学習について検討する。
本稿では,リプシッツ連続リスク関数を最適化するための統一分布フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-15T05:02:39Z) - Risk-Controlled Post-Processing of Decision Policies [38.38357747696667]
本稿では,リスク管理後処理について検討する。決定論的ベースラインポリシーが与えられた場合,ユーザ特定損失に対するリスク制約の対象となるベースラインとの合意を最大化する新たなポリシーを選択する。
最適政策にはしきい値構造があり、フォールバック政策への切り替えが条件違反リスクを大幅に減少させる状況以外はベースラインに従っていることを示す。
新型コロナウイルスの放射線画像診断タスク、LCMルーティング問題、および合成多クラス決定タスクの実験により、標的のポストプロセッシングは、スコアブラインドランダムミキシングよりもベースラインとのほぼ一致を維持しつつ、リスク予算を満たすか、ほぼ満たすことができることが示された。
論文 参考訳(メタデータ) (2026-05-07T16:03:24Z) - Convergence and Sample Complexity of First-Order Methods for Agnostic Reinforcement Learning [66.4260157478436]
政策学習における強化学習について検討する。
目的は、特定の種類の利害関係において最高の政策と競争力のある政策を見つけることである。
論文 参考訳(メタデータ) (2025-07-06T14:40:05Z) - Last-Iterate Global Convergence of Policy Gradients for Constrained Reinforcement Learning [62.81324245896717]
我々はC-PGと呼ばれる探索非依存のアルゴリズムを導入し、このアルゴリズムは(弱)勾配支配仮定の下でのグローバルな最終点収束を保証する。
制約付き制御問題に対して,我々のアルゴリズムを数値的に検証し,それらを最先端のベースラインと比較する。
論文 参考訳(メタデータ) (2024-07-15T14:54:57Z) - A Reductions Approach to Risk-Sensitive Reinforcement Learning with Optimized Certainty Equivalents [44.09686403685058]
本研究の目的は,累積報酬のリスク尺度を最適化する履歴依存政策を学習することである。
楽観主義に基づくメタアルゴリズムと政策勾配に基づくメタアルゴリズムを提案する。
我々は,提案アルゴリズムが概念実証MDPで最適な履歴依存ポリシーを学習できることを実証的に示す。
論文 参考訳(メタデータ) (2024-03-10T21:45:12Z) - Risk-sensitive Markov Decision Process and Learning under General Utility Functions [3.069335774032178]
強化学習(Reinforcement Learning, RL)は、様々な応用分野や理論的研究において大きな注目を集めている。
意思決定プロセス(MDP)の枠組みにおいて,意思決定者が累積報酬の汎用機能を最適化しようとするシナリオを考える。
累積報酬の空間上でのエプシロン被覆を用いた修正値反復アルゴリズムを提案する。
シミュレータが存在しない場合,提案アルゴリズムは高信頼度探索法を用いて設計され,ほぼ最適ポリシーを同定する。
論文 参考訳(メタデータ) (2023-11-22T18:50:06Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - Bayesian Safe Policy Learning with Chance Constrained Optimization: Application to Military Security Assessment during the Vietnam War [0.0]
ベトナム戦争で採用されたセキュリティアセスメントアルゴリズムを改善できるかどうかを検討する。
この経験的応用は、アルゴリズムによる意思決定においてしばしば発生するいくつかの方法論的課題を提起する。
論文 参考訳(メタデータ) (2023-07-17T20:59:50Z) - Safe Online Bid Optimization with Return-On-Investment and Budget
Constraints subject to Uncertainty [87.81197574939355]
最適化問題と学習問題の両方について検討する。
我々は、潜在的に線形な数の制約違反を犠牲にして、サブ線形後悔を保証するアルゴリズム、すなわちGCBを提供する。
より興味深いことに、我々はGCB_safe(psi,phi)というアルゴリズムを提供し、サブ線形擬似回帰と安全性w.h.p.の両方を、耐性 psi と phi を受け入れるコストで保証する。
論文 参考訳(メタデータ) (2022-01-18T17:24:20Z) - On the Optimality of Batch Policy Optimization Algorithms [106.89498352537682]
バッチポリシー最適化は、環境と対話する前に既存のデータをポリシー構築に活用することを検討する。
信頼調整インデックスアルゴリズムは楽観的,悲観的,中立的いずれであってもミニマックス最適であることを示す。
最適値予測の本来の難易度を考慮した新しい重み付き最小値基準を提案する。
論文 参考訳(メタデータ) (2021-04-06T05:23:20Z) - Risk-Sensitive Deep RL: Variance-Constrained Actor-Critic Provably Finds
Globally Optimal Policy [95.98698822755227]
本研究は,リスクに敏感な深層強化学習を,分散リスク基準による平均報酬条件下で研究する試みである。
本稿では,ポリシー,ラグランジュ乗算器,フェンシェル双対変数を反復的かつ効率的に更新するアクタ批判アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-28T05:02:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。