論文の概要: Which Trajectory Is Safer? Combining Rule and Learning for Safety Evaluation

• arxiv url: http://arxiv.org/abs/2610.17806v1
• Date: Tue, 13 Oct 2026 06:34:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 17:07:04.305114
• Title: Which Trajectory Is Safer? Combining Rule and Learning for Safety Evaluation
• Title（参考訳）: 安全評価のためのルールと学習の組み合わせ
• Abstract要約: FutureRiskは、その実現された相互作用が安全でない状態にいかに近づいたかによって、軌道の潜在的な将来のリスクを定量化する指標である。 DeepAccidentとBench2Driveの実験では、FutureRiskは既存のサロゲート安全対策よりも、ネイティブの衝突ラベルとの強い合意を達成している。 その結果、FutureRiskは、軌道安全評価のためのきめ細かい、解釈可能な、文脈適応的な指標として確立される。
• 参考スコア（独自算出の注目度）: 14.634935958318493
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Collision rate remains a dominant metric for evaluating autonomous driving trajectory safety, but its binary nature obscures substantial safety differences among collision-free trajectories. Existing surrogate-safety metrics provide finer-grained assessments, yet often trade off physical interpretability against adaptivity to interaction context. We introduce FutureRisk, a continuous metric that quantifies the latent future risk of a trajectory by how closely and persistently its realized interactions approach unsafe states. At its core, our Context-Adaptive Risk Model (CARM) combines a context-dependent safety-time distribution with an independently supervised critical-event-time distribution. Its safety criterion is bounded around a closed-form physical prior, while a bounded residual provides additional adaptation without abandoning this physical anchor. Experiments on DeepAccident and Bench2Drive show that FutureRisk achieves stronger agreement with native collision labels than existing surrogate-safety measures, discriminates risk among collision-free trajectories, and transfers zero-shot across datasets. Comparisons across four planners further show that FutureRisk reveals safety differences hidden by binary collision outcomes. Together, these results establish FutureRisk as a fine-grained, interpretable, and context-adaptive metric for trajectory safety evaluation. Code is available at https://github.com/Xuewen2025/safety-evaluation.
• Abstract（参考訳）: 衝突速度は、自律走行軌道の安全性を評価する主要な指標であるが、その二分性は衝突のない軌道間でのかなりの安全性の違いを曖昧にしている。 既存のサロゲートセーフティメトリクスは、よりきめ細かい評価を提供するが、インタラクションコンテキストへの適応性に対する物理的解釈性をトレードオフすることが多い。 我々は、その実現された相互作用が安全でない状態にいかに近づいたかによって、軌道の潜在的な将来のリスクを定量化する連続計量であるFutureRiskを紹介する。 我々のコンテキスト適応リスクモデル(CARM)は、コンテキスト依存の安全時間分布と、独立に監督された臨界時分布を結合する。 その安全性基準は、閉形式の物理的事前に拘束されるが、有界残差は、この物理的アンカーを放棄することなく追加適応を提供する。 DeepAccidentとBench2Driveの実験によると、FutureRiskは既存のサロゲート安全対策よりもネイティブの衝突ラベルとの強い合意を達成し、衝突のない軌道のリスクを識別し、データセット間でゼロショットを転送する。 4つのプランナーの比較により、FutureRiskはバイナリ衝突の結果によって隠された安全性の違いを明らかにしている。 これらの結果とともに、FutureRiskは軌道安全評価のための細粒度、解釈可能、文脈適応的指標として確立される。 コードはhttps://github.com/Xuewen2025/safety-evaluation.comから入手できる。

関連論文リスト

• Beyond Routine Compliance: Cunning Data Cultivates Safety Vigilance in Large Language Models [13.286950013891635]
  安全アライメントは、大きな言語モデルに有害な要求を認識し、リスクのある指示を拒否するように教える。 我々は、必ずしも安全に関するものではなく、誤解を招く前提を含む、textbfcunning質問を導入する。 実験により、カニングトレーニングは、分配不能のジェイルブレイク攻撃に対する堅牢性を改善し、その後の安全性の微調整を強化することが示されている。
  論文  参考訳（メタデータ） (2026-09-16T11:46:48Z)
• Quantifying Risk Under Evolving Uncertainty: Belief-Dependent Robustness for Safe Sequential Decision Making [0.0]
  RATTL(Risk-Adrial Total-Reward Learning)を提案する。 結果の計画問題は透明性とコンパクトさの条件下では良好であることを示す。 RATTLは実行時システムを含むエージェントの安全性を目標としており、不確実性の下で動作している。
  論文  参考訳（メタデータ） (2026-08-18T09:36:19Z)
• Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
  本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。 画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
  論文  参考訳（メタデータ） (2026-07-29T05:16:59Z)
• Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation [52.122731171289665]
  クロスモデル安全ステアリングのための最初のフレームワークを紹介する。 私たちのパイプラインは、ターゲット側の安全でないデータにアクセスしません。 多様なソース・ターゲット・モデル・ペア間のテキスト・ツー・イメージとテキスト・ツー・ビデオ生成におけるアプローチを評価する。
  論文  参考訳（メタデータ） (2026-06-03T18:00:04Z)
• Action-Conditioned Risk Gating for Safety-Critical Control under Partial Observability [79.08785366532287]
  部分観測可能性下でのリスク感応制御のための軽量なリスクゲート強化学習近似を提案する。 安全クリティカルな部分観測可能な2つの領域 – 自動グルコース調節と安全制約ナビゲーション – でアプローチを評価した。
  論文  参考訳（メタデータ） (2026-05-14T01:23:09Z)
• Sparse Threats, Focused Defense: Criticality-Aware Robust Reinforcement Learning for Safe Autonomous Driving [11.62520853262219]
  本稿では、自律運転におけるスパースかつ安全クリティカルなリスクに対処するために、臨界対応ロバストRL(CARRL)を導入する。 CARRLは2つの相互作用成分からなる: リスク露光敵 (REA) とリスクターゲット型ロバストエージェント (RTRA) である。 提案手法は,最先端のベースライン法と比較して,全症例で少なくとも22.66%の衝突率を減少させることを示す。
  論文  参考訳（メタデータ） (2026-01-05T05:20:16Z)
• Scenario-aware Uncertainty Quantification for Trajectory Prediction with Statistical Guarantees [16.41262478059784]
  本稿では,予測区間と信頼性評価を備えた予測トラジェクトリを提供するシナリオ認識不確実性定量化フレームワークを提案する。 実世界のnuPlanデータセットを用いてフレームワークの評価を行い、シナリオアウェアな不確実性定量化と信頼性評価の有効性を実証した。
  論文  参考訳（メタデータ） (2025-12-05T12:54:39Z)
• Boundary-to-Region Supervision for Offline Safe Reinforcement Learning [56.150983204962735]
  バウンダリ・トゥ・レギオン(Bundary-to-Region, B2R)は、コスト信号による非対称な条件付けを可能にするフレームワークである。 B2Rは、CTGを固定された安全予算の下で境界制約として再定義し、すべての実行可能な軌道のコスト分布を統一する。 実験の結果,B2Rは38項目中35項目の安全制約を満たすことがわかった。
  論文  参考訳（メタデータ） (2025-09-30T03:38:20Z)
• Learning collision risk proactively from naturalistic driving data at scale [3.1457219084519004]
  本研究は一般サロゲート安全対策(GSSM)を紹介する。 GSSMは、クラッシュやリスクラベルを必要とせずに、自然主義的な運転から衝突リスクを学習する。 複数のGSSMを訓練するためには、運動キネマティクス、天気、照明など、自然運動からのさまざまなデータを使用する。 即時運動キネマティクスのみを用いた基本的なGSSMは、精度-リコール曲線0.9の領域を達成し、衝突を避けるために2.6秒の中央値の時間を確保できる。
  論文  参考訳（メタデータ） (2025-05-19T07:22:32Z)
• Safety Margins for Reinforcement Learning [53.10194953873209]
  安全マージンを生成するためにプロキシ臨界度メトリクスをどのように活用するかを示す。 Atari 環境での APE-X と A3C からの学習方針に対するアプローチを評価する。
  論文  参考訳（メタデータ） (2023-07-25T16:49:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。