論文の概要: Probabilistic Verification of Recurrent Neural Networks for Single and Multi-Agent Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2605.14758v1
• Date: Thu, 14 May 2026 12:22:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-16 00:43:04.122039
• Title: Probabilistic Verification of Recurrent Neural Networks for Single and Multi-Agent Reinforcement Learning
• Title（参考訳）: 単元・多元強化学習のためのリカレントニューラルネットワークの確率論的検証
• Authors: Luca Marzari, Enrico Marchesini,
• Abstract要約: 既存の検証ツールは、制約のあるモデリングの前提や隠れた状態空間の過剰な近似に依存している。 我々は、$textbfRNN$ $textbfPro$babilistic $textbfVe$rification ($texttRNN-ProVe$)という確率的フレームワークを提案します。 部分的に観察可能な単一エージェントと協調的なマルチエージェントタスクの実験は、$texttRNN-ProVe$がより定量的であることを示している。
• 参考スコア（独自算出の注目度）: 7.340828059560292
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: History-dependent policies induced by recurrent neural networks (RNNs) rely on latent hidden state dynamics, making verification in partially observable reinforcement learning (RL) challenging. Existing RNN verification tools typically rely on restrictive modeling assumptions or coarse over-approximations of the hidden state space, which can lead to overly conservative or inconclusive results. We propose $\textbf{RNN}$ $\textbf{Pro}$babilistic $\textbf{Ve}$rification ($\texttt{RNN-ProVe}$), a probabilistic framework that $\textit{estimates the likelihood}$ of undesired behaviors in RNN-based policies. $\texttt{RNN-ProVe}$ uses policy-driven sampling to approximate the set of hidden states that are feasible under a trained policy, and derives statistical error bounds to produce bounded-error, high-confidence estimates of behavioral violations. Experiments on partially observable single-agent and cooperative multi-agent tasks show that $\texttt{RNN-ProVe}$ yields more quantitative, feasibility-aware probabilistic guarantees than existing tools, while scaling to recurrent and multi-agent settings.
• Abstract（参考訳）: リカレントニューラルネットワーク(RNN)によって引き起こされる履歴に依存したポリシーは、潜伏状態のダイナミクスに依存しており、部分的に観測可能な強化学習(RL)の検証は困難である。 既存のRNN検証ツールは、通常、制限的なモデリングの仮定や隠れた状態空間の過剰な近似に依存しており、過度に保守的あるいは決定的な結果をもたらす可能性がある。 我々は、RNNベースのポリシーで望ましくない振る舞いを$で評価する確率的フレームワークである$\textbf{RNN}$ $\textbf{Pro}$babilistic $\textbf{Ve}$rification$\textt{RNN-ProVe}$を提案している。 $\texttt{RNN-ProVe}$は、訓練されたポリシーの下で実現可能な隠された状態の集合を近似するためにポリシー駆動サンプリングを使用し、統計的エラー境界を導出し、行動違反の有界エラー、高信頼度推定を生成する。 部分的に観察可能な単一エージェントと協調的なマルチエージェントタスクの実験は、$\texttt{RNN-ProVe}$が既存のツールよりも定量的で、実現可能性に敏感な確率的保証を得られることを示している。

関連論文リスト

• Probabilistically Tightened Linear Relaxation-based Perturbation Analysis for Neural Network Verification [83.25968588249776]
  本稿では,LiRPAに基づく手法とサンプリングに基づく手法を組み合わせることで,厳密な中間到達性集合を計算できる新しいフレームワークを提案する。 無視可能な計算オーバーヘッドでは、$textttPT-LiRPA$は推定された到達可能な集合を利用し、ニューラルネットワークの出力の上下線形境界を著しく締め付ける。
  論文  参考訳（メタデータ） (2025-07-07T18:45:53Z)
• Adversarial Robustness Certification for Bayesian Neural Networks [22.71265211510824]
  逆入力摂動に対するベイズニューラルネットワーク(BNN)の計算の堅牢性検証問題について検討する。 本フレームワークは, 重み付け, 積分, および有界伝搬技術に基づいており, 多数のパラメータを持つBNNに適用可能である。
  論文  参考訳（メタデータ） (2023-06-23T16:58:25Z)
• The #DNN-Verification Problem: Counting Unsafe Inputs for Deep Neural Networks [94.63547069706459]
  #DNN-Verification問題は、DNNの入力構成の数を数えることによって安全性に反する結果となる。 違反の正確な数を返す新しい手法を提案する。 安全クリティカルなベンチマークのセットに関する実験結果を示す。
  論文  参考訳（メタデータ） (2023-01-17T18:32:01Z)
• Certification of Iterative Predictions in Bayesian Neural Networks [79.15007746660211]
  我々は、BNNモデルの軌道が与えられた状態に到達する確率に対して、安全でない状態の集合を避けながら低い境界を計算する。 我々は、制御と強化学習の文脈において、下限を用いて、与えられた制御ポリシーの安全性保証を提供する。
  論文  参考訳（メタデータ） (2021-05-21T05:23:57Z)
• Probabilistic Safety for Bayesian Neural Networks [22.71265211510824]
  逆入力摂動下でのベイズニューラルネットワーク(BNN)の確率論的安全性について検討する。 特に,BNNからサンプリングしたネットワークが敵攻撃に対して脆弱であることを示す。 そこで本手法は,BNNの確率論的安全性を数百万のパラメータで証明できることを実証的に示し,課題の回避を訓練したBNNに適用する。
  論文  参考訳（メタデータ） (2020-04-21T20:25:33Z)
• Scalable Quantitative Verification For Deep Neural Networks [44.570783946111334]
  ディープニューラルネットワーク(DNN)のためのテスト駆動検証フレームワークを提案する。 本手法は,形式的確率特性の健全性が証明されるまで,十分な試験を行う。 われわれの研究は、現実世界のディープニューラルネットワークが捉えた分布の性質を、証明可能な保証で検証する方法を開拓している。
  論文  参考訳（メタデータ） (2020-02-17T09:53:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。