論文の概要: Quantifying Risk Under Evolving Uncertainty: Belief-Dependent Robustness for Safe Sequential Decision Making

• arxiv url: http://arxiv.org/abs/2608.17574v1
• Date: Tue, 18 Aug 2026 09:36:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-19 21:40:53.294971
• Title: Quantifying Risk Under Evolving Uncertainty: Belief-Dependent Robustness for Safe Sequential Decision Making
• Title（参考訳）: 不確実性の進化によるリスクの定量化:安全なシーケンス決定のための信頼依存ロバスト性
• Abstract要約: RATTL(Risk-Adrial Total-Reward Learning)を提案する。 結果の計画問題は透明性とコンパクトさの条件下では良好であることを示す。 RATTLは実行時システムを含むエージェントの安全性を目標としており、不確実性の下で動作している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: How cautious should an agent be while it is still learning its environment? We propose RATTL (Risk-Adversarial Total-Reward Learning), which ties caution to epistemic uncertainty: the agent holds a Bayesian posterior over unknown dynamics and plans against a Wasserstein ambiguity set whose radius is a monotone function of that posterior. The radius contracts with evidence, so behaviour interpolates continuously between worst-case robustness and risk-neutral total-reward maximization. The design follows the duality underlying the Entropic Value-at-Risk, which converts the choice of a risk level into the choice of an ambiguity radius. We show the resulting planning problem is well posed under transience and compactness conditions, and prove a Safety Sandwich: the RATTL value lies between the uninformed robust value and the full- knowledge optimum, with a gap that vanishes as the posterior concentrates. In a canonical binary-hazard instance, the induced criterion reduces to Conditional Value-at-Risk at a level set by the posterior entropy. A worked example shows the agent deferring the efficient action until a sharp identification threshold. RATTL targets runtime safety for agents, including LLM-based systems, acting under uncertainty.
• Abstract（参考訳）: エージェントは、その環境を学習している間、どれほど慎重になるべきか? RATTL (Risk-Adversarial Total-Reward Learning, RATTL) を提案する。これは, エージェントが未知のダイナミクスに対してベイズ的後進を保持し, 半径がその後進の単調関数であるワッサーシュタイン曖昧性集合に対して計画する。 半径はエビデンスと収縮するため、最悪の場合の頑健性とリスクニュートラルな全逆最大化の間に連続的に動作が補間される。 この設計はエントロピック・バリュー・アット・リスク(Entropic Value-at-Risk)の根底にある双対性に従い、リスクレベルの選択をあいまいな半径の選択に変換する。 RATTL値は、非インフォームのロバスト値とフル知識の最適値の間にあり、後部集中度によって消失するギャップがある。 正準二項ハザードの場合、誘導基準は後エントロピーによって設定されたレベルにおいて条件値-at-Riskに還元される。 動作例は、シャープな識別しきい値まで効率的なアクションを延期するエージェントを示す。 RATTLはLLMベースのシステムを含むエージェントのランタイム安全性を目標としており、不確実性の下で動作している。

関連論文リスト

• Robust Risk Under Evolving Uncertainty: A Wasserstein Counterpart of the Entropic Value-at-Risk [0.0]
  我々は、それが引き起こすコヒーレントリスク尺度、ワッサーシュタインエントロピー値-リスクについて研究する。 輸送半径を信念エントロピーで駆動すると、閉形式で頑健な動的プログラム演算子が得られる。
  論文  参考訳（メタデータ） (2026-08-19T16:22:48Z)
• Action-Conditioned Risk Gating for Safety-Critical Control under Partial Observability [79.08785366532287]
  部分観測可能性下でのリスク感応制御のための軽量なリスクゲート強化学習近似を提案する。 安全クリティカルな部分観測可能な2つの領域 – 自動グルコース調節と安全制約ナビゲーション – でアプローチを評価した。
  論文  参考訳（メタデータ） (2026-05-14T01:23:09Z)
• From Agent Failure Paths to Quantified Residual Risk: A Compositional Framework for Resilient Agentic AI [8.947753534117298]
  エージェントAIは、現在のリスクモデルが表現できるよりも早く、信頼境界を越えています。 レジリエントなエージェント・エンボディAIのためのメカニズム・ツー・マグニチュードパイプラインを提案する。 本稿では,リアルタイム倉庫ロボットとガバナンスによる金融サービスエージェントの2つのコントラストシナリオに関するフレームワークについて述べる。
  論文  参考訳（メタデータ） (2026-04-28T23:40:24Z)
• RE-SAC: Disentangling aleatoric and epistemic risks in bus fleet control: A stable and robust ensemble DRL approach [19.34848029403215]
  交通量と旅客需要のため、バスの保有管理は困難である。 標準的なアクター批判アルゴリズムは揮発性環境におけるQ値不安定性に悩まされる。 本研究では,不確実性を解消するために,頑健なアンサンブル・ソフトアクター・クリティック・フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-19T01:37:45Z)
• Uncertainty-Aware Jamming Mitigation with Active RIS: A Robust Stackelberg Game Approach [65.06640919319413]
  本稿では,アクティブリコンフィギュアブルインテリジェントサーフェス(ARIS)を利用したジャミング緩和について検討する。 正当側と敵側の戦略的相互作用をモデル化するために,Stackelbergゲーム定式化を採用する。 まず、ロバストなアンチジャミング設計のための正当側最適化に組み込む、従者のベストレスポンスとして最適なジャミングポリシーを導出する。
  論文  参考訳（メタデータ） (2026-02-20T12:02:01Z)
• Reward Redistribution for CVaR MDPs using a Bellman Operator on L-infinity [16.835098688159004]
  静的条件付きリスクリスク(CVaR)のようなテールエンドのリスク対策は、稀だが破滅的な事態を防止するために安全クリティカルな応用に用いられている。 我々は、離散化された拡張状態に依存するリスク逆値とモデルなしQ-ラーニングアルゴリズムを開発した。 実験により,本アルゴリズムはCVaR感受性ポリシーを学習し,効果的な性能保証トレードオフを実現することができた。
  論文  参考訳（メタデータ） (2026-02-03T17:39:45Z)
• Constrained Language Model Policy Optimization via Risk-aware Stepwise Alignment [49.2305683068875]
  本稿では,リスク認識を政策最適化プロセスに組み込んだ新しいアライメント手法であるリスク対応ステップワイドアライメント(RSA)を提案する。 RSAは、過剰なモデルシフトによって引き起こされるリスクを基準方針から緩和し、低確率で高影響の有害な振る舞いを明示的に抑制する。 実験により, 本手法は高い安全性を確保しつつ, 高い安全性を達成できることが確認された。
  論文  参考訳（メタデータ） (2025-12-30T14:38:02Z)
• From Mean to Extreme: Formal Differential Privacy Bounds on the Success of Real-World Data Reconstruction Attacks [54.25638567385662]
  機械学習における微分プライバシーは、しばしばメンバーシップ推論に対する保証として解釈される。 DP予算を定量的な保護に翻訳することで、データ再構築の脅威を悪化させることは、依然として困難な課題である。 本稿では、実証された"ゼロスクラッチ"攻撃のメカニズムに合わせた、最初の公式なプライバシー境界を導出することで、臨界ギャップを埋める。
  論文  参考訳（メタデータ） (2024-02-20T09:52:30Z)
• Model-Based Epistemic Variance of Values for Risk-Aware Policy Optimization [59.758009422067]
  モデルベース強化学習における累積報酬に対する不確実性を定量化する問題を考察する。 我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式(UBE)を提案する。 本稿では,リスク・サーキングとリスク・アバース・ポリシー最適化のいずれにも適用可能な汎用ポリシー最適化アルゴリズムQ-Uncertainty Soft Actor-Critic (QU-SAC)を導入する。
  論文  参考訳（メタデータ） (2023-12-07T15:55:58Z)
• Temporal Difference Uncertainties as a Signal for Exploration [76.6341354269013]
  強化学習における探索の効果的なアプローチは、最適な政策に対するエージェントの不確実性に依存することである。 本稿では,評価値のバイアスや時間的に矛盾する点を強調した。 本稿では,時間差誤差の分布の導出に依存する値関数の不確かさを推定する手法を提案する。
  論文  参考訳（メタデータ） (2020-10-05T18:11:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。