論文の概要: ExceptionDrive: A Planning-Oriented Counterfactual Corner-Case Benchmark for Autonomous Driving
- arxiv url: http://arxiv.org/abs/2609.37871v1
- Date: Tue, 29 Sep 2026 15:48:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.708733
- Title: ExceptionDrive: A Planning-Oriented Counterfactual Corner-Case Benchmark for Autonomous Driving
- Title（参考訳）: ExceptionDrive: 自律運転のための計画指向対向コーナケースベンチマーク
- Abstract要約: 定期運転ベンチマークにおける平均性能は、稀で安全に危害が及ぶ状況下でプランナーの信頼性を確立しない。
本稿では,VLMによるスクリーニング,ローカライズされたマルチビュー編集,品質監査を用いて,実際のnuScenesシーンにハザードを挿入する,ファクトフルプランニングベンチマークであるExceptionDriveを提案する。
リスク挿入は記録されたヒトの軌跡を無効にすることができるため、基準フリープロトコルは、アンセーフレート(UR)、ハザードクリアランスコンプライアンス(HCC)、ハザード近接応答(HPR)、対物軌道シフト(CTS)を用いて、編集された予測を評価する。
- 参考スコア（独自算出の注目度）: 21.449824253080674
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Average performance on routine driving benchmarks does not establish planner reliability under rare, safety-critical hazards. We proposed ExceptionDrive, a counterfactual planning benchmark that uses VLM-assisted screening, localized multi-view editing, and quality auditing to insert hazards into real nuScenes scenes while preserving their context. Its 21 tasks span six safety families and define hazard or conflict regions, local safety constraints, and acceptable responses. Because hazard insertion can invalidate the recorded human trajectory, our reference-free protocol evaluates edited predictions using Unsafe Rate (UR), Hazard Clearance Compliance (HCC), Hazard Proximity Response (HPR), and Counterfactual Trajectory Shift (CTS), which measure core-region intrusion, clearance compliance, clearance relative to a prescribed margin, and counterfactual trajectory change. Seven representative planners frequently intrude into hazard regions or provide insufficient clearance. We also develop a Reminder Agent that, without sample-specific task labels, converts visual evidence and the shared taxonomy into structured records of hazard presence, type, and a recommended high-level strategy. The agent neither predicts trajectories nor controls the vehicle; its records guide a VLM-based decision agent. In zero-shot experiments, the reminders improve strategy accuracy and reduce under-warning.
- Abstract（参考訳）: 定期運転ベンチマークにおける平均性能は、稀で安全に危害が及ぶ状況下でプランナーの信頼性を確立しない。
我々は,VLMによるスクリーニング,ローカライズされたマルチビュー編集,品質監査を用いて,コンテキストを保ちながら実際のnuScenesシーンにハザードを挿入する,ファクトフルな計画ベンチマークであるExceptionDriveを提案する。
21のタスクは6つのセーフティファミリーにまたがり、ハザードや紛争地域、地域の安全制約、許容可能な応答を定義する。
リスク挿入は記録されたヒトの軌跡を無効にすることができるため、基準フリープロトコルは、コア領域侵入、クリアランスコンプライアンス、所定のマージンに対するクリアランス、および反ファクト的軌跡変化を計測するアンセーフレート(UR)、ハザードクリアランスコンプライアンス(HCC)、ハザード近接応答(HPR)、および反ファクト的軌道シフト(CTS)を用いて、編集された予測を評価する。
7人の代表プランナーがしばしば危険地域に入るか、あるいは不十分なクリアランスを提供する。
また、サンプル固有のタスクラベルを使わずに、視覚的エビデンスと共有分類を、ハザードの存在、タイプ、推奨されたハイレベル戦略の構造化された記録に変換するリマインダーエージェントを開発した。
エージェントは軌跡を予測も制御もせず、そのレコードはVLMベースの意思決定エージェントを誘導する。
ゼロショット実験では、リマインダーは戦略の精度を改善し、温暖化を減らす。
関連論文リスト
- Beyond Routine Compliance: Cunning Data Cultivates Safety Vigilance in Large Language Models [13.286950013891635]
安全アライメントは、大きな言語モデルに有害な要求を認識し、リスクのある指示を拒否するように教える。
我々は、必ずしも安全に関するものではなく、誤解を招く前提を含む、textbfcunning質問を導入する。
実験により、カニングトレーニングは、分配不能のジェイルブレイク攻撃に対する堅牢性を改善し、その後の安全性の微調整を強化することが示されている。
論文 参考訳（メタデータ） (2026-09-16T11:46:48Z) - Do Not Forget the Obvious - RISC: A Risk-Informed Slice-Coverage Protocol for Safe Autonomous Driving [1.7138957697358534]
RISC (Risk-Informed Slice Coverage) はリスク誘導型ストレステストとカバレッジ品質評価のための実用的なプロトコルである。
我々は、Zenseact Openデータセットから1000フレームを用いて、単眼歩行知覚のためのプロトコルをインスタンス化する。
この概念実証研究では、リスク誘導選択は、ランダムサンプリング下の34.0%から98.5%に臨界障害発見を増大させる。
論文 参考訳（メタデータ） (2026-08-12T13:32:25Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳（メタデータ） (2026-05-12T09:56:28Z) - Enhancing Agent Safety Judgment: Controlled Benchmark Rewriting and Analogical Reasoning for Deceptive Out-of-Distribution Scenarios [0.2578242050187029]
ROMEは、既知の安全でないトラジェクトリを偽評価インスタンスに書き換える、制御されたベンチマーク構築パイプラインである。
ARISEは、外部アナログベースからReActスタイルのアナログ安全軌道を抽出し、それらを構造化推論例として注入する検索誘導推論時間拡張である。
論文 参考訳（メタデータ） (2026-05-05T00:21:00Z) - SafetyALFRED: Evaluating Safety-Conscious Planning of Multimodal Large Language Models [46.968844120076916]
実装エージェントベンチマークALFRED上に構築されたSafetyALFREDを紹介し,実際のキッチンハザードの6つのカテゴリを拡張した。
我々は,リスク認識だけでなく,具体的計画によるアクティブなリスク軽減についても,11種類の最先端モデルを評価した。
論文 参考訳（メタデータ） (2026-04-21T16:27:20Z) - CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。
CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。
このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
論文 参考訳（メタデータ） (2026-04-10T09:41:21Z) - HomeGuard: VLM-based Embodied Safeguard for Identifying Contextual Risk in Household Task [42.665798473119516]
CG-CoT(Context-Guided Chain-of-Thought)を特徴とするアーキテクチャ非依存型セーフガードを提案する。
CG-CoTは、リスクアセスメントをアクティブな知覚に分解し、相互作用対象や関連する空間近傍への注意を順次固定する。
実験により、我々のモデルであるHomeGuardは安全性を大幅に向上し、ベースモデルと比較してリスクマッチ率を30%以上改善することが示された。
論文 参考訳（メタデータ） (2026-03-15T13:09:43Z) - Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。
既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。
我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
論文 参考訳（メタデータ） (2025-10-10T18:42:32Z) - Safety Margins for Reinforcement Learning [53.10194953873209]
安全マージンを生成するためにプロキシ臨界度メトリクスをどのように活用するかを示す。
Atari 環境での APE-X と A3C からの学習方針に対するアプローチを評価する。
論文 参考訳（メタデータ） (2023-07-25T16:49:54Z) - Can Autonomous Vehicles Identify, Recover From, and Adapt to
Distribution Shifts? [104.04999499189402]
トレーニング外の配布(OOD)シナリオは、デプロイ時にエージェントを学ぶ上で一般的な課題である。
インプロバスト模倣計画(RIP)と呼ばれる不確実性を考慮した計画手法を提案する。
提案手法は,OODシーンにおける過信および破滅的な外挿を低減し,分布変化を検知し,回復することができる。
分散シフトを伴うタスク群に対する駆動エージェントのロバスト性を評価するために,自動走行車ノベルシーンベンチマークであるtexttCARNOVEL を導入する。
論文 参考訳（メタデータ） (2020-06-26T11:07:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。