論文の概要: NavSafe-$\infty$: Benchmarking Closed-Loop Driving Safety in Photorealistic Environments
- arxiv url: http://arxiv.org/abs/2609.26618v1
- Date: Tue, 22 Sep 2026 15:51:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-24 01:05:39.735183
- Title: NavSafe-$\infty$: Benchmarking Closed-Loop Driving Safety in Photorealistic Environments
- Title（参考訳）: NavSafe-$\infty$: フォトリアリスティック環境におけるクローズドループ運転安全のベンチマーク
- Abstract要約: Open-loop (OL) の運転ポリシーは Open-loop (OL) ベンチマークで急速に進展している。
28種類のイベントにまたがる280のシナリオのクローズドループ(CL)ベンチマークであるNavSafe-$infty$を紹介します。
OLゲインがCLセーフティに確実に移行しないことが判明した。
- 参考スコア（独自算出の注目度）: 34.0844509883154
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: End-to-end (E2E) driving policies have progressed rapidly on open-loop (OL) benchmarks, yet OL evaluation cannot reveal whether a policy withstands compounding errors, recovers from failures, or interacts safely with surrounding actors. We introduce NavSafe-$\infty$, a photorealistic closed-loop (CL) benchmark of 280 scenarios spanning 28 event types, each with success and failure criteria defined within a structured traffic-safety taxonomy, which yields category-level capability scores for Traffic Crashes, Vulnerable Road User Crashes, Traffic Violations, and Traffic Incidents. Evaluating 20 E2E policies, we find that OL gains do not reliably transfer to CL safety. Analyzing two common remedies further shows that passive demonstration perturbation helps mainly when CL rollouts stay near its perturbed training states, and that OL reinforcement-learning fine-tuning exhibits reward hacking by trading safety margin for ego progress, which CL feedback amplifies into compounding safety-critical errors. Together, these results demonstrate the blind spot of OL benchmarks indicating CL safety success. The benchmark and an extensible toolbox for customizable event curation and policy diagnosis will be open-sourced and maintained to facilitate future research.
- Abstract（参考訳）: エンド・ツー・エンド(E2E)の運転ポリシーはオープンループ(OL)ベンチマークで急速に進展しているが、OL評価では、ポリシーがエラーの混在に耐えるか、障害から回復するか、あるいは周囲のアクターと安全に対話しているかは明らかにできない。
NavSafe-$\infty$は、28のイベントタイプにまたがる280のシナリオからなるフォトリアリスティッククローズドループ(CL)ベンチマークである。
20のE2Eポリシーを評価すると、OLゲインがCLセーフティに確実に移行しないことが分かる。
さらに2つの一般的な治療法を分析したところ、CLロールアウトが摂動トレーニング状態に近づいた場合、受動的デモの摂動は主として役立ち、OL強化学習の微調整は、エゴの進行に対する安全マージンのトレーディングによる報酬ハッキングを示し、CLフィードバックが安全クリティカルエラーの複合化に有効であることが示された。
これらの結果は,OLベンチマークの盲点から,CLの安全性が向上したことを示している。
このベンチマークと、カスタマイズ可能なイベントキュレーションとポリシー診断のための拡張可能なツールボックスは、将来の研究を促進するためにオープンソース化され、維持される。
関連論文リスト
- VLESA: Vision-Language Embodied Safety Agent for Human Activity Monitoring [60.53395558502203]
Vision-Language Embodied Safety Agent (VLESA)は、自我中心のビデオから人間の活動を監視する。
VLESAは、コンテキストに応じて同一のアクションが安全または危険である意図に依存した安全性に対処する。
目標を共同で推測し,映像から将来の行動を予測するための意図-行動予測エージェントを提案する。
論文 参考訳（メタデータ） (2026-06-02T17:42:17Z) - Safety-Constrained Reinforcement Learning with Post-Training Reachability Verification for Robot Navigation [13.151825012034886]
本稿では,外部のTD3バックボーン上での条件付きバリュー・アット・リスク(CVaR)制約による最適化を通じて,リスクに敏感なポリシをトレーニングするフレームワークを提案する。
トレーニング中、このポリシーは累積コストに対するCVaR制約の下で最適化され、高コストテール結果に対する感受性が促進される。
重要な発見は、CVaR制約で訓練されたポリシーが、評価された状態の障害からより大きな安全マージンを維持することである。
論文 参考訳（メタデータ） (2026-05-13T22:53:47Z) - RefusalGuard: Geometry-Preserving Fine-Tuning for Safety in LLMs [5.100622189286672]
下流タスクのための微調整型セーフティアライメント言語モデルは、拒否動作を著しく低下させる可能性がある。
本稿では,モデル適応時の安全関連構造を保存する表現レベルの微調整フレームワークREFUSALGUARDを紹介する。
論文 参考訳（メタデータ） (2026-05-03T14:48:18Z) - SoK: Measuring What Matters for Closed-Loop Security Agents [0.0]
CLASP: Closed-Loop Autonomous Security Performanceフレームワークを紹介します。
セキュリティライフサイクル(リコネッサンス、エクスプロイト、ルート原因合成分析、パッチ合成、バリデーション)をコアエージェント機能と整合させる。
次に,閉ループ能力(CLC)スコア(Closed-Loop Capability, CLC)を定義する。
論文 参考訳（メタデータ） (2025-10-02T04:20:35Z) - Towards Reliable and Interpretable Traffic Crash Pattern Prediction and Safety Interventions Using Customized Large Language Models [14.53510262691888]
TrafficSafeは、テキストレベルの推論として、再フレームのクラッシュ予測と機能属性に適応するフレームワークである。
飲酒運転が深刻な事故の要因となっている。
TrafficSafeは、戦略的クラッシュデータ収集の改善を導くモデルトレーニングにおいて、重要な機能を強調している。
論文 参考訳（メタデータ） (2025-05-18T21:02:30Z) - SafetyAnalyst: Interpretable, Transparent, and Steerable Safety Moderation for AI Behavior [56.10557932893919]
我々は、新しいAI安全モデレーションフレームワークであるSafetyAnalystを紹介する。
AIの振る舞いを考えると、SafetyAnalystはチェーン・オブ・シークレット・推論を使用してその潜在的な結果を分析する。
効果を28個の完全に解釈可能な重みパラメータを使って有害度スコアに集約する。
論文 参考訳（メタデータ） (2024-10-22T03:38:37Z) - CAT: Closed-loop Adversarial Training for Safe End-to-End Driving [54.60865656161679]
Adversarial Training (CAT) は、自動運転車における安全なエンドツーエンド運転のためのフレームワークである。
Catは、安全クリティカルなシナリオでエージェントを訓練することで、運転エージェントの安全性を継続的に改善することを目的としている。
猫は、訓練中のエージェントに対抗する敵シナリオを効果的に生成できる。
論文 参考訳（メタデータ） (2023-10-19T02:49:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。