論文の概要: Herding End-to-End Autonomous Driving via Neuro-Symbolic Safety Guards

• arxiv url: http://arxiv.org/abs/2608.11451v1
• Date: Tue, 11 Aug 2026 21:27:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-13 19:07:54.391023
• Title: Herding End-to-End Autonomous Driving via Neuro-Symbolic Safety Guards
• Title（参考訳）: ニューロ・シンボリック安全ガードによる終端自動運転
• Abstract要約: ニューロシンボリック安全ガードは、既に訓練されたエージェントの最終的なコマンドインターフェースにアタッチされる。 コマンドを明示的な安全ルールからチェックし、必要に応じて、最も安全な代替手段に置き換える。 成功率を15%改善し、安全臨界衝突を最大53%削減する。
• 参考スコア（独自算出の注目度）: 0.3499870393443268
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern end-to-end driving agents can achieve high average performance yet still violate basic traffic rules that a human driver would never miss. The reason is structural: they learn statistical patterns rather than the physical conditions that guarantee safe driving, leaving their decision-making process opaque and safety constraints unenforced. We introduce a neuro-symbolic safety guard, a lightweight module that attaches to the final command interface of an already-trained agent. Immediately before a command reaches the vehicle, it checks the command against explicit safety rules and, only when necessary, replaces it with the nearest safe alternative. Each intervention is directly executable and traceable to the rule that triggered it, while the guard itself requires no retraining and adds no learned component. Evaluated on the long-tail benchmarks Fail2Drive and Bench2Drive using the state-of-the-art TransFuser v6 (TFv6) as a case study, the guard improves Success Rate by 15% and reduces safety-critical collisions by up to 53%, while preserving the original Driving Score.
• Abstract（参考訳）: 現代のエンド・ツー・エンドの運転エージェントは、高い平均性能を達成することができるが、人間の運転者が見逃すことのない基本的な交通規則に違反している。 その理由は構造的であり、安全運転を保証する物理的条件よりも統計的パターンを学習し、意思決定プロセスが不透明で安全性の制約が強制されないままにしておく。 我々は、すでに訓練されたエージェントの最終的なコマンドインターフェースにアタッチされる軽量モジュールであるニューロシンボリック安全ガードを導入する。 コマンドが車両に到達する直前に、明確な安全規則に従ってコマンドをチェックし、必要に応じて、最も安全な代替手段に置き換える。 各介入は直接実行可能で、それをトリガーしたルールにトレース可能であるが、ガード自体は再トレーニングを必要とせず、学習したコンポーネントを追加しない。 ケーススタディとして、最先端のTransFuser v6(TFv6)を使用して、Fail2DriveとBench2Driveのロングテールベンチマークを評価し、ガードは成功率を15%改善し、元のドライビングスコアを保存しながら、安全クリティカルな衝突を最大53%削減する。

関連論文リスト

• HazardAuditor: From Executable Threats to Safer Computer-Use Agents [50.06351661912873]
  既存のガードモデルは静的なプロンプトと応答をターゲットとしている。 既存の安全プラットフォームは、正規化された監督ではなく、ガードモデルで学ぶ必要がある評価判断を生成する。 両ギャップを埋める実行基盤フレームワークであるHazardAuditorを紹介します。
  論文  参考訳（メタデータ） (2026-09-14T07:09:33Z)
• StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing [80.39644823192113]
  StepGuardは、完了したエージェントの軌跡を監査し、実行前にツールアクションをチェックするステップレベルのガードモデルである。 StepGuardは、GPT-5.4に匹敵するパフォーマンスで、オープンウェイトガードモデルの中で最高の平均精度を達成した。 AgentDojoとAgentDynのエージェントを保護するために使用される場合、StepGuardは平均攻撃成功率を77.3%削減する。
  論文  参考訳（メタデータ） (2026-08-25T16:17:27Z)
• Autonomous Cyber Defense in Connected Vehicles: A Multi-Agent Approach to V2X Security [0.0]
  接続された車両は約100ミリ秒で、着信する基本安全メッセージが本物か製造されているかを決定する。 本稿では,このタイミング制約を性能目標ではなく,ハードデザイン要件として扱う3層マルチエージェントアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2026-08-19T17:28:32Z)
• Mission-Level Runtime Assurance Framework for Autonomous Driving [1.76179873429447]
  本稿では,高レベル運転コマンドが故障したり信頼性が低下した場合の自律運転のランタイム安全性について検討する。 車両の即時安全性に重点を置いている従来のランタイムセーフティアプローチとは異なり、提案手法は運転安全性と、コマンドの実行前にその車両がまだミッションを完了できるかどうかを評価できる。
  論文  参考訳（メタデータ） (2026-06-05T07:35:10Z)
• DriveSafer: End-to-End Autonomous Driving with Safety Guidance [0.42970700836450476]
  DriveSaferは、エンド・ツー・エンドのプランナのためのフェール・アウェア・セーフティ・フレームワークである。 トレーニング時の安全制約と推論時の安全ガイダンスの両方を活用する安全行動に向けて、プランナーを指導する。 破滅的な障害の数を48%減らし、乾燥可能な領域のコンプライアンス障害の65%以上を減らした。
  論文  参考訳（メタデータ） (2026-05-16T01:21:30Z)
• Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
  大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。 既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。 安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T12:13:08Z)
• On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
  既存の安全アライメント信号は、主に応答レベルまたは政治外である。 FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。 FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
  論文  参考訳（メタデータ） (2026-05-12T09:56:28Z)
• Safety Recovery in Reasoning Models Is Only a Few Early Steering Steps Away [97.11976870616273]
  本稿では,安全回復を目的ではなく満足度の高い制約として扱う軽量な推論時防衛法を提案する。 6つのオープンソースMLRMと4つのjailbreakベンチマークで評価した結果、SafeThinkは攻撃成功率を30～60%削減しました。
  論文  参考訳（メタデータ） (2026-02-11T18:09:17Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• Behavioral Safety Assessment towards Large-scale Deployment of Autonomous Vehicles [6.846750893175613]
  自動運転車(AV)の行動安全へのパラダイムシフトを提案する。 本稿では,運転免許試験と運転情報検査の2つの相補的な評価要素を含む,サードパーティのAV安全性評価フレームワークを紹介する。 シミュレーション環境とミシガン大学のMcity Testing Facilityの物理的テストトラックの両方で,オープンソースのLevel 4 AVであるtexttAutoware.Universeを検証した。
  論文  参考訳（メタデータ） (2025-05-22T04:28:59Z)
• Evaluation of Safety Constraints in Autonomous Navigation with Deep Reinforcement Learning [62.997667081978825]
  学習可能なナビゲーションポリシとして,セーフとアンセーフの2つを比較します。 安全なポリシは、制約をアカウントに含めますが、もう一方はそうではありません。 安全政策は、よりクリアランスの高い軌道を生成することができ(障害物によらず)、全体的な性能を犠牲にすることなく、トレーニング中に衝突を減らすことができることを示す。
  論文  参考訳（メタデータ） (2023-07-27T01:04:57Z)
• Weakly Supervised Reinforcement Learning for Autonomous Highway Driving via Virtual Safety Cages [42.57240271305088]
  規則に基づく安全ケージは、車両の安全性の向上と強化学習エージェントに対する弱い監督を提供する自律型車両の縦方向制御に対する強化学習ベースのアプローチを提示する。 モデルパラメータが制約されたり,あるいは最適化されていない場合,モデルが強化学習だけでは運転を訓練できない場合でも,モデルが安全な運転方針を学習できることを示す。
  論文  参考訳（メタデータ） (2021-03-17T15:30:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。