論文の概要: OOD-RL-Bench: A Benchmark Framework for Out-of-Distribution Detection in Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2607.12523v1
- Date: Tue, 14 Jul 2026 08:57:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-15 17:08:30.090424
- Title: OOD-RL-Bench: A Benchmark Framework for Out-of-Distribution Detection in Reinforcement Learning
- Title(参考訳): OOD-RL-Bench:強化学習におけるアウト・オブ・ディストリビューション検出のためのベンチマークフレームワーク
- Abstract要約: OOD検出器を軌道に注入された異常のカテゴリに対して評価するためのフレームワークであるOOD-RL-Benchを提案する。
インジェクタと異常インジェクタは、共有インターフェースと設定を通じて統合される。
一致時間AUROC,一致時間AUPRC,一致時間偽陽性率,検出遅延,セグメンテッドオンセット測定値を用いて,各検出器の性能評価を行った。
- 参考スコア(独自算出の注目度): 4.173831365316023
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reliable reinforcement learning (RL) agents must maintain operational integrity amidst sensor malfunctions, dynamic disturbances, and slow environmental shifts. The detection of out-of-distribution conditions is pivotal to determining when an agent's observations, transitions, or trajectory dynamics deviate from the assumptions underpinning its policy training. Current out-of-distribution (OOD) detection benchmarks typically evaluate image classifiers or static low-dimensional datasets, failing to account for the complex, action-dependent temporal structure inherent in RL trajectories. To address this gap, we present OOD-RL-Bench, a comprehensive and extensible framework designed to evaluate OOD detectors against categories of anomalies injected into RL trajectories. Detectors and anomaly injectors are integrated through shared interfaces and configuration, which allows new scoring methods and perturbation families to be evaluated without modification of the core benchmark loop. We evaluate the utility of the framework using a Deep Q-Network policy within the LunarLander-v3 environment. We assess the performance of each detector across a suite of anomaly types using matched-time AUROC, matched-time AUPRC, matched-time false-positive rate, detection delay, and segmented-onset metrics. Our analysis reveals significant performance variance across anomaly types: observation perturbations and regime switches are identified with high accuracy by several methods, while observation delay and action-conditioned dynamics remain difficult even when post-onset anomaly scores are compared against clean scores from the same timesteps. We make the framework, trained policy checkpoint, and complete results publicly available as a reproducible artefact.
- Abstract(参考訳): 信頼性強化学習(RL)エージェントは、センサの故障、動的障害、環境変化の遅さの中で、運用上の整合性を維持する必要がある。
アウト・オブ・ディストリビューション条件の検出は、エージェントの観察、遷移、または軌道力学が、その政策訓練の根底にある仮定から逸脱する時期を決定するために重要である。
現在のアウト・オブ・ディストリビューション(OOD)検出ベンチマークは、画像分類器や静的な低次元データセットを評価し、RL軌道に固有の複雑な行動依存の時間構造を考慮しない。
このギャップに対処するため,我々は,OOD検出器をRL軌道に注入した異常のカテゴリに対して,包括的かつ拡張可能なフレームワークであるOOD-RL-Benchを提案する。
インジェクタと異常インジェクタは、共有インターフェースと設定を通じて統合され、コアベンチマークループを変更することなく、新しいスコアリングメソッドと摂動ファミリを評価できる。
我々は,LunarLander-v3環境におけるディープQ-ネットワークポリシーを用いて,フレームワークの有用性を評価する。
一致時間AUROC,一致時間AUPRC,一致時間偽陽性率,検出遅延,セグメンテッドオンセット測定値を用いて,各検出器の性能評価を行った。
また, 観測遅延と動作条件のダイナミクスは, 同一時刻からのクリーンスコアと比較した場合においても困難でありながら, 観測摂動とレギュラースイッチは高い精度で識別される。
我々は、再現可能な成果物として、フレームワーク、訓練されたポリシーチェックポイント、および完全な結果を公開します。
関連論文リスト
- IADD-TR: Intervention-Aware Dynamics Decoupling with Targeted Regularization for Model-Based Reinforcement Learning [57.16513298507272]
IADD-TRは、IADD(Intervention-Aware Dynamics Decoupling)とTR(Targeted Regularization)を組み合わせた統合フレームワークである。
IADDは、ゼロアクションアンカーを用いて、アクション干渉段階とアクションフリー自然進化段階への遷移を分解し、堅牢な一般化のためにこの2段階の分解の非特異性を解決する。
政策学習においては,リプレイ状態の政策段階関数の効率的な影響関数からTRを導出する。
論文 参考訳(メタデータ) (2026-08-11T08:20:02Z) - TimeLAVA: Learning-Agnostic Data Valuation for Time Series [48.76711740818533]
TimeLAVAは、評価データと参照データの間の分布差を最小限に抑えるために、時間セグメントを限界貢献によって評価する学習非依存のフレームワークである。
モデルに依存しない一般化にバリュエーションをリンクする理論的保証を提供し、汚染に対する有界感度を証明する。
論文 参考訳(メタデータ) (2026-06-17T06:16:16Z) - Disjoint or Overlapping? Inference Windowing for Reconstruction-Based Time Series Anomaly Detection [1.5439079597766574]
本研究では,サブシーケンスが不整合ウィンドウとして処理されるか,重なり合うかを制御する推論ストライドの役割について検討する。
本稿では、TSB-ADベンチマーク上で、統一的なトレーニング、チューニング、およびマルチシード評価プロトコルを提案する。
重なり合うウィンドウは、平均的な相対的なゲインが+28%まで向上し、メソッドランキングを変更することができることを示す。
論文 参考訳(メタデータ) (2026-06-02T19:42:30Z) - Conditional Attribution for Root Cause Analysis in Time-Series Anomaly Detection [13.555771273974697]
本稿では,文脈的に類似したシステム状態に対する異常を記述した条件属性フレームワークを提案する。
本手法は,異常観測を条件とした代表例を検索し,依存関係の保存と運用上の意味のある説明を可能にする。
SWaTとベンチマークの実験により、提案手法は複数の異常検出モデルにおける根本原因同定精度、時間的局所化、ロバスト性を一貫して改善することを示した。
論文 参考訳(メタデータ) (2026-04-19T21:01:52Z) - Temporal cross-validation impacts multivariate time series subsequence anomaly detection evaluation [3.43058724483837]
時系列クロスバリデーション (TSCV) 技術は, モデル評価中の時間秩序を維持することを目的としている。
本研究は,MTSデータセットの故障様異常を検出する訓練を行った分類器の精度・リコール特性に及ぼすTSCV戦略の影響を系統的に検討する。
論文 参考訳(メタデータ) (2025-06-13T19:14:44Z) - Adaptive Thresholding Heuristic for KPI Anomaly Detection [1.57731592348751]
時系列領域では、多くの異常検知器が探索されているが、ビジネス的な意味では、すべての異常検出器が興味のある異常であるわけではない。
本稿では,データ分布の局所特性に基づいて検出閾値を動的に調整し,時系列パターンの変化に適応する適応的閾値保持ヒューリスティック(ATH)を提案する。
実験結果から, ATHは効率が良く, ほぼリアルタイムで異常検出が可能であり, 予測器や異常検出器で柔軟であることがわかった。
論文 参考訳(メタデータ) (2023-08-21T06:45:28Z) - DIVERSIFY: A General Framework for Time Series Out-of-distribution
Detection and Generalization [58.704753031608625]
時系列は、機械学習研究における最も困難なモダリティの1つである。
時系列上でのOODの検出と一般化は、その非定常性によって悩まされる傾向がある。
時系列の動的分布のOOD検出と一般化のためのフレームワークであるDIVERSIFYを提案する。
論文 参考訳(メタデータ) (2023-08-04T12:27:11Z) - Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳(メタデータ) (2023-02-06T16:38:43Z) - PULL: Reactive Log Anomaly Detection Based On Iterative PU Learning [58.85063149619348]
本稿では,推定故障時間ウィンドウに基づくリアクティブ異常検出のための反復ログ解析手法PULLを提案する。
我々の評価では、PULLは3つの異なるデータセットで10のベンチマークベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2023-01-25T16:34:43Z) - Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。
我々は,再建基準の代替として,異常スコアの代替尺度を提案した。
提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
論文 参考訳(メタデータ) (2020-03-24T08:26:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。