論文の概要: Robust Risk Under Evolving Uncertainty: A Wasserstein Counterpart of the Entropic Value-at-Risk
- arxiv url: http://arxiv.org/abs/2608.19073v1
- Date: Wed, 19 Aug 2026 16:22:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.459434
- Title: Robust Risk Under Evolving Uncertainty: A Wasserstein Counterpart of the Entropic Value-at-Risk
- Title(参考訳): 不確実性の進化によるロバストリスク--エントロピー的価値-アット・リスクのワッサーシュタインカウンターパート
- Abstract要約: 我々は、それが引き起こすコヒーレントリスク尺度、ワッサーシュタインエントロピー値-リスクについて研究する。
輸送半径を信念エントロピーで駆動すると、閉形式で頑健な動的プログラム演算子が得られる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: An agent still learning its environment should be cautious while ignorant and bold once confident. The entropic value-at-risk captures this through a robust-optimization identity---a confidence level fixes the radius of a relative-entropy ball of alternative models---but that ball cannot reach catastrophes the nominal deems impossible, precisely what a safe agent must hedge. We instead use an optimal-transport ball and study the coherent risk measure it induces, the Wasserstein entropic value-at-risk. It has a variational dual mirroring the entropic formula (an inverse temperature becomes a transport price), occupies a definite place in the risk hierarchy, and provably accounts for the reachable catastrophes the entropic measure ignores; we verify both dualities numerically. Driving the transport radius by belief entropy then yields a closed-form robust dynamic-programming operator whose caution contracts as the belief sharpens, with a certified safety sandwich and a sharp safety switch.
- Abstract(参考訳): その環境をまだ学んでいるエージェントは、一度自信を持てば、無知で大胆であるべきだ。
信頼レベルは、代替モデルの相対エントロピー球の半径を固定する - しかし、ボールはカタストロフィに到達できず、名目上の決定は不可能である。
代わりに、最適輸送球を用いて、それが引き起こすコヒーレントリスク測度、ワッサーシュタインエントロピー値-アットリスクを研究する。
エントロピー式(逆温度が輸送価格となる)を反映した変分双対を持ち、リスク階層の定位置を占め、エントロピー測度が無視する到達可能な災害を確実に説明し、両双対性を数値的に検証する。
信念のエントロピーによって輸送半径を駆動すると、クローズド形式のロバストな動的プログラミング演算子が得られる。
関連論文リスト
- Quantifying Risk Under Evolving Uncertainty: Belief-Dependent Robustness for Safe Sequential Decision Making [0.0]
RATTL(Risk-Adrial Total-Reward Learning)を提案する。
結果の計画問題は透明性とコンパクトさの条件下では良好であることを示す。
RATTLは実行時システムを含むエージェントの安全性を目標としており、不確実性の下で動作している。
論文 参考訳(メタデータ) (2026-08-18T09:36:19Z) - Action-Conditioned Risk Gating for Safety-Critical Control under Partial Observability [79.08785366532287]
部分観測可能性下でのリスク感応制御のための軽量なリスクゲート強化学習近似を提案する。
安全クリティカルな部分観測可能な2つの領域 – 自動グルコース調節と安全制約ナビゲーション – でアプローチを評価した。
論文 参考訳(メタデータ) (2026-05-14T01:23:09Z) - From Agent Failure Paths to Quantified Residual Risk: A Compositional Framework for Resilient Agentic AI [8.947753534117298]
エージェントAIは、現在のリスクモデルが表現できるよりも早く、信頼境界を越えています。
レジリエントなエージェント・エンボディAIのためのメカニズム・ツー・マグニチュードパイプラインを提案する。
本稿では,リアルタイム倉庫ロボットとガバナンスによる金融サービスエージェントの2つのコントラストシナリオに関するフレームワークについて述べる。
論文 参考訳(メタデータ) (2026-04-28T23:40:24Z) - Uncertainty-aware Generative Recommendation [52.0751022792023]
Uncertainty-aware Generative Recommendation (UGR)は、適応最適化のための重要な信号として不確実性を利用する統一的なフレームワークである。
UGRは優れたレコメンデーション性能を得るだけでなく、トレーニングを根本的に安定化させ、標準手法でよく見られる性能劣化を防ぐ。
論文 参考訳(メタデータ) (2026-02-12T08:48:51Z) - The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。
エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。
我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
論文 参考訳(メタデータ) (2026-02-10T15:18:19Z) - Agentic Uncertainty Quantification [76.94013626702183]
本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。
システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
論文 参考訳(メタデータ) (2026-01-22T07:16:26Z) - Risk Estimation for Automated Driving [0.9376581451563295]
自動運転では、リスクは2つの側面によって特徴づけられる。
不確実性は一般的に、衝突に近い事象の危険をゼロにする。
既存のアプローチでは、経験的モデリングや厳密な近似に頼ってリスクを計算する。
本稿では,衝突確率推定の最近の進歩と衝突重大度の概念を組み合わせて,正確なリスク推定のための一般的な手法を開発する。
論文 参考訳(メタデータ) (2026-01-21T14:14:50Z) - Constrained Language Model Policy Optimization via Risk-aware Stepwise Alignment [49.2305683068875]
本稿では,リスク認識を政策最適化プロセスに組み込んだ新しいアライメント手法であるリスク対応ステップワイドアライメント(RSA)を提案する。
RSAは、過剰なモデルシフトによって引き起こされるリスクを基準方針から緩和し、低確率で高影響の有害な振る舞いを明示的に抑制する。
実験により, 本手法は高い安全性を確保しつつ, 高い安全性を達成できることが確認された。
論文 参考訳(メタデータ) (2025-12-30T14:38:02Z) - Adversarial Thermodynamics [0.1666604949258699]
我々は、敵対的資源理論に基づく非平衡熱力学の枠組みを開発する。
我々は、Szilard型エンジンをケリーギャンブルに同型なゲームとみなす。
リスクのあるプロトコルを実行する代わりに、合理的なエージェントが受け入れる保証された作業量が、Renyiの発散によって与えられることを示す。
論文 参考訳(メタデータ) (2025-10-09T14:50:51Z) - Integrating uncertainty quantification into randomized smoothing based robustness guarantees [18.572496359670797]
ディープニューラルネットワークは、安全クリティカルなアプリケーションにおいて有害な誤った予測を引き起こす可能性のある敵攻撃に対して脆弱である。
ランダムな滑らか化による認証されたロバスト性は、スムーズ化された分類器の予測が与えられた入力の周りの$ell$-ball内では変化しないという確率的保証を与える。
不確実性に基づく拒絶は、しばしば敵の攻撃からモデルを守るために実践的に適用される技法である。
新たなフレームワークは,ネットワークアーキテクチャや不確実性評価の体系的な評価を可能にすることを実証する。
論文 参考訳(メタデータ) (2024-10-27T13:07:43Z) - Mitigating optimistic bias in entropic risk estimation and optimization with an application to insurance [5.407319151576265]
エントロピーリスク尺度は、不確実な損失に関連する尾のリスクを説明するために広く使用されている。
経験的エントロピーリスク推定器のバイアスを軽減するために, 強く一貫したブートストラップ手法を提案する。
当社の手法は、住宅所有者に対してより高い(そしてより正確な)プレミアムを示唆している。
論文 参考訳(メタデータ) (2024-09-30T04:02:52Z) - Safety Margins for Reinforcement Learning [53.10194953873209]
安全マージンを生成するためにプロキシ臨界度メトリクスをどのように活用するかを示す。
Atari 環境での APE-X と A3C からの学習方針に対するアプローチを評価する。
論文 参考訳(メタデータ) (2023-07-25T16:49:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。