論文の概要: The Case for Negative Data: From Crash Reports to Counterfactuals for Reasonable Driving
- arxiv url: http://arxiv.org/abs/2509.18626v1
- Date: Tue, 23 Sep 2025 04:21:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-24 20:41:27.697989
- Title: The Case for Negative Data: From Crash Reports to Counterfactuals for Reasonable Driving
- Title（参考訳）: 負データの場合:事故報告から不当運転まで
- Authors: Jay Patrikar, Apoorva Sharma, Sushant Veer, Boyi Li, Sebastian Scherer, Marco Pavone,
- Abstract要約: 我々は、クラッシュ物語をエゴ中心言語に正規化し、ログとクラッシュの両方を検索に適した統一されたシーンアクション表現に変換する。
決定時,本システムでは,この統合インデックスから関連する前例を検索することで,提案した行動を判断する。
nuScenesベンチマークでは、前例の検索はキャリブレーションを大幅に改善し、文脈的に好まれるアクションのリコールは24%から53%に増加した。
- 参考スコア（独自算出の注目度）: 32.66018847060895
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning-based autonomous driving systems are trained mostly on incident-free data, offering little guidance near safety-performance boundaries. Real crash reports contain precisely the contrastive evidence needed, but they are hard to use: narratives are unstructured, third-person, and poorly grounded to sensor views. We address these challenges by normalizing crash narratives to ego-centric language and converting both logs and crashes into a unified scene-action representation suitable for retrieval. At decision time, our system adjudicates proposed actions by retrieving relevant precedents from this unified index; an agentic counterfactual extension proposes plausible alternatives, retrieves for each, and reasons across outcomes before deciding. On a nuScenes benchmark, precedent retrieval substantially improves calibration, with recall on contextually preferred actions rising from 24% to 53%. The counterfactual variant preserves these gains while sharpening decisions near risk.
- Abstract（参考訳）: 学習ベースの自律運転システムは、主にインシデントフリーのデータに基づいて訓練されており、安全性と性能の境界付近ではほとんどガイダンスを提供していない。
実際のクラッシュレポートには、正確には比較可能な証拠が含まれているが、それらを使うのは難しい。
本稿では,クラッシュ物語をエゴ中心言語に正規化し,ログとクラッシュの両方を検索に適した統一されたシーンアクション表現に変換することで,これらの課題に対処する。
本システムでは,この統合された指標から関連する前例を抽出し,適切な代替案を提案し,それぞれを検索し,決定前の結果の理由を判断する。
nuScenesベンチマークでは、前例検索はキャリブレーションを大幅に改善し、文脈的に好まれるアクションのリコールは24%から53%に増加した。
カウンターファクトの変種はこれらの利益を保ち、リスクに近い決定を鋭くする。
関連論文リスト
- From Narratives to Probabilistic Reasoning: Predicting and Interpreting Drivers' Hazardous Actions in Crashes Using Large Language Model [3.3457493284891338]
2車線の事故は、道路事故の約70%を占める。
Driver Hazardous Action (DHA)データは、一貫性のない、労働集約的な手動コーディングプラクティスによって制限される。
本稿では,微調整された大規模言語モデルを利用して,テキストによるクラッシュ物語からDHAを自動的に推測する,革新的なフレームワークを提案する。
論文 参考訳（メタデータ） (2025-10-14T21:35:47Z) - Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。
既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。
我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
論文 参考訳（メタデータ） (2025-10-10T18:42:32Z) - Refusal Falls off a Cliff: How Safety Alignment Fails in Reasoning? [68.82210578851442]
メカニスティックな解釈可能性レンズによる推論モデルにおいて、なぜ安全アライメントが失敗するのかを考察する。
トークン位置における拒絶意図の追跡のための線形探索手法を用いて,textbfrefusal cliff と呼ばれる現象を発見した。
提案手法は,最大断崖を示す訓練例を識別し,推論モデルの安全性を向上する手法であるtextbfCliff-as-a-Judge を提案する。
論文 参考訳（メタデータ） (2025-10-07T15:32:59Z) - A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。
我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。
本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
論文 参考訳（メタデータ） (2025-10-03T07:01:45Z) - Predicting person-level injury severity using crash narratives: A balanced approach with roadway classification and natural language process techniques [5.145333626258798]
本研究は, 現場の警察官が, 事故の重大度を予測するために, 構造的クラッシュデータと組み合わせた場合の, 非構造的クラッシュ物語の付加価値について検討した。
意味を抽出するために広く使われている2つの自然言語処理技術であるTF-IDF(Term Frequency-Inverse Document Frequency)とWord2Vec(Word2Vec)が用いられた。
102の機械学習モデルは、構造化特徴と物語に基づく特徴を組み合わせることによって開発された。
論文 参考訳（メタデータ） (2025-09-09T15:22:14Z) - Rethinking Safety in LLM Fine-tuning: An Optimization Perspective [56.31306558218838]
我々は、本質的にトレードオフではなく、最適化の貧弱な選択が、しばしば安全上の問題を引き起こすことを示し、敵のプロンプトに対する有害な応答として測定する。
安全性能を保ったパラメータ空間における簡易指数移動平均(EMA)運動量法を提案する。
複数のデータセットにまたがるLlamaファミリーに関する実験は、安全性の問題が特別な介入なしに回避できることを実証している。
論文 参考訳（メタデータ） (2025-08-17T23:46:36Z) - Why Braking? Scenario Extraction and Reasoning Utilizing LLM [13.88343221678386]
シナリオ理解と推論にLarge Language Model(LLM)を利用する新しいフレームワークを提案する。
提案手法は,低レベル数値信号と自然言語記述とのギャップを埋め,LLMによる運転シナリオの解釈と分類を可能にする。
論文 参考訳（メタデータ） (2025-07-17T08:33:56Z) - DRAMA-X: A Fine-grained Intent Prediction and Risk Reasoning Benchmark For Driving [5.362063089413001]
既存のベンチマークでは、安全クリティカルな状況下でのマルチクラスの意図予測は評価されていない。
DRAMAデータセットから構築した詳細なベンチマークであるDRAMA-Xを紹介する。
我々は,エゴ車の推論パイプラインを反映した軽量でトレーニング不要なフレームワークであるSGG-Intentを提案する。
論文 参考訳（メタデータ） (2025-06-21T05:01:42Z) - Illusions of Relevance: Using Content Injection Attacks to Deceive Retrievers, Rerankers, and LLM Judges [52.96987928118327]
検索,リランカー,大型言語モデル(LLM)の埋め込みモデルは,コンテンツインジェクション攻撃に対して脆弱であることがわかった。
主な脅威は,(1) 意味不明な内容や有害な内容の挿入,(2) 関連性を高めるために,問合せ全体あるいはキークエリ用語の挿入,の2つである。
本研究は, 注射内容の配置や関連物質と非関連物質とのバランスなど, 攻撃の成功に影響を与える要因を系統的に検討した。
論文 参考訳（メタデータ） (2025-01-30T18:02:15Z) - Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。
エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。
我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
論文 参考訳（メタデータ） (2024-09-26T21:00:45Z) - Beelines: Motion Prediction Metrics for Self-Driving Safety and Comfort [4.670814682436471]
動作予測が安全性に与える影響を定量化する2つの相補的指標を提案する。
我々の安全基準は、安全でない事象を特定する際の変位誤差よりもはるかに優れた信号対雑音比を有する。
論文 参考訳（メタデータ） (2020-11-01T01:09:23Z) - Can Autonomous Vehicles Identify, Recover From, and Adapt to
Distribution Shifts? [104.04999499189402]
トレーニング外の配布(OOD)シナリオは、デプロイ時にエージェントを学ぶ上で一般的な課題である。
インプロバスト模倣計画(RIP)と呼ばれる不確実性を考慮した計画手法を提案する。
提案手法は,OODシーンにおける過信および破滅的な外挿を低減し,分布変化を検知し,回復することができる。
分散シフトを伴うタスク群に対する駆動エージェントのロバスト性を評価するために,自動走行車ノベルシーンベンチマークであるtexttCARNOVEL を導入する。
論文 参考訳（メタデータ） (2020-06-26T11:07:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。