論文の概要: Auditing Latent-Space Monitors for Autonomous Driving

• arxiv url: http://arxiv.org/abs/2609.30557v1
• Date: Thu, 24 Sep 2026 21:09:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.141673
• Title: Auditing Latent-Space Monitors for Autonomous Driving
• Title（参考訳）: 自律走行のための潜時空間モニターの検討
• Abstract要約: 障害モニタは内部表現を使って障害を予測できる。 我々はこのモニタリング戦略を2つの自律走行タスクにわたって監査する。 フレームレベルのエラーは、両方のタスクの推論で予測可能である。
• 参考スコア（独自算出の注目度）: 2.160196691362033
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Runtime failure monitors can use a model's internal representations to anticipate failures. We audit this monitoring strategy across two autonomous-driving tasks: online vectorized map generation with LaneSegNet and end-to-end planning with VAD. We find that frame-level errors are predictable at inference in both tasks. For LaneSegNet, a supervised latent probe reaches Area Under the Receiver Operating Characteristic curve (AUROC) 0.780 for high Chamfer error; to our knowledge, this is the first post-hoc frame-level failure monitor for online vectorized map generation. For VAD, a supervised planning-latent probe reaches AUROC 0.868 for mean-ADE failure. Our audit shows that internal access is not necessary for strong failure prediction. A monitor using only LaneSegNet's prediction outputs reaches AUROC 0.825, while for VAD, ego state, driving command, and the planner's predicted trajectory reach 0.924 on the same mean-ADE endpoint. Adding latent features to either baseline yields no statistically resolved improvement. This observation persists across a broad suite of planning failure endpoints, including endpoints whose labels depend on geometry unavailable to the non-latent baseline. Thus, predicting failure from an internal representation does not establish that the representation provides useful information beyond observable inputs and outputs. We propose an evaluation protocol for testing the incremental value of latent access and release our per-frame failure endpoint labels.
• Abstract（参考訳）: 実行時の障害モニタは、モデルの内部表現を使用して障害を予測できる。 我々は、LaneSegNetによるオンラインベクトル化マップ生成と、VADによるエンドツーエンド計画という、2つの自律走行タスクにわたるこのモニタリング戦略を監査する。 フレームレベルのエラーは、両方のタスクの推論で予測可能である。 LaneSegNetは、受信者動作特性曲線(AUROC)0.780に到達して高いチャンファー誤差を発生させ、我々の知る限り、これはオンラインベクトル化マップ生成のための最初のポストホックフレームレベルの故障モニタである。 VADでは、平均値の故障のために監督型計画遅延プローブがAUROC 0.868に達する。 監査の結果,強い障害予測には内部アクセスは必要ないことがわかった。 LaneSegNetの予測出力のみを使用したモニタはAUROC 0.825に到達し、VADではエゴ状態、駆動コマンド、プランナーの予測軌道は同じ平均ADEエンドポイントで0.924に達する。 いずれのベースラインに潜在機能を追加すると、統計的に解決された改善は得られない。 この観察は、ラベルが非ラテントベースラインで利用できない幾何学に依存しているエンドポイントを含む、幅広い計画上の障害エンドポイントにまたがる。 したがって、内部表現から失敗を予測することは、その表現が観測可能な入力や出力以上の有用な情報を提供することを確証しない。 本稿では、遅延アクセスの漸進的な値をテストするための評価プロトコルを提案し、フレーム単位の障害エンドポイントラベルをリリースする。

関連論文リスト

• TERMon: Detecting Persistent Behavioral Threats in Edge AI via Hardware-Native Ternary Runtime Monitor [0.9396259916237174]
  エッジAIアクセラレータは、安全クリティカルな環境にますますデプロイされている。 モデル破損、分散シフト、および敵対的な入力が依然として良好で確実な予測を生成できるため、実行時の障害は検出されないことが多い。 本稿では,モデルの再実行や形式検証ではなく,推論動作を観察することで,そのような異常を検出する軽量ハードウェアランタイムモニタであるTERMonを提案する。
  論文  参考訳（メタデータ） (2026-09-18T12:49:50Z)
• Automata from Agent Traces: Failure and Next-Step Prediction [1.16693435589939]
  トレースコーパス全体を1つのコンパクト有限状態機械 (FSM) に分解し, LLM エージェントの挙動のための構造基板として機能する。 障害予測では、州ごとの行動特徴がAUROCで最大0.94まで到達し、オンラインのモニターが失敗点を通過点より上回っている。
  論文  参考訳（メタデータ） (2026-08-24T17:58:01Z)
• Beyond Suspicious Steps: Ontological Trust in Long-Horizon Agents [13.208673657449175]
  本稿では,軌道前置詞のタスク条件特性である存在論的信頼を導入し,それを RGE としてインスタンス化する。 RGEはロール、ゴール、エビデンスに沿って信頼を分解する。 我々はOSWorld, FinanceBench, EICU-ACからクロスドメイントラジェクトリコーパスを構築する。
  論文  参考訳（メタデータ） (2026-08-18T12:44:43Z)
• Foresight: Failure Detection for Long-Horizon Robotic Manipulation with Action-Conditioned World Model Latents [58.49879338545782]
  ロングホライゾンタスクは、現実のロボット展開では一般的なものだが、そのようなタスクの障害検出は未調査のままである。 動作条件付き世界モデルからの潜在表現を用いて、操作軌跡をモニタする故障検出フレームワークであるForesightを提案する。 この結果から, 動作条件付きワールドモデル埋め込みは, 長距離操作における信頼性のある故障監視のためのスケーラブルな表現を提供する可能性が示唆された。
  論文  参考訳（メタデータ） (2026-06-22T09:32:28Z)
• DIRECT: When and Where Should You Allocate Test-Time Compute in Embodied Planners? [57.585275546688116]
  VLM(Vision-Language Models)は、エンボディエージェントの高レベルプランナーとしてますます普及している。 テストタイムの計算をいつ、どこで使うかを選択することは、実際の世界にフロンティアパフォーマンスをもたらす中心である、と私たちは主張する。 我々はマルチモーダルシーンコンテキストを用いてプロンプト毎に計算を割り当てるルーティングフレームワークであるDIRECTを紹介した。
  論文  参考訳（メタデータ） (2026-06-10T17:58:49Z)
• CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
  我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。 CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
  論文  参考訳（メタデータ） (2026-06-09T16:24:16Z)
• Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
  ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。 本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。 本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
  論文  参考訳（メタデータ） (2026-02-13T14:57:15Z)
• TRUST-LAPSE: An Explainable and Actionable Mistrust Scoring Framework for Model Monitoring [4.262769931159288]
  連続モデル監視のための"ミストラスト"スコアリングフレームワークであるTRUST-LAPSEを提案する。 我々は,各入力サンプルのモデル予測の信頼性を,潜時空間埋め込みのシーケンスを用いて評価する。 AUROCs 84.1 (vision), 73.9 (audio), 77.1 (clinical EEGs)
  論文  参考訳（メタデータ） (2022-07-22T18:32:38Z)
• Learning Uncertainty For Safety-Oriented Semantic Segmentation In Autonomous Driving [77.39239190539871]
  自律運転における安全クリティカル画像セグメンテーションを実現するために、不確実性推定をどのように活用できるかを示す。 相似性関数によって測定された不一致予測に基づく新しい不確実性尺度を導入する。 本研究では,提案手法が競合手法よりも推論時間において計算集約性が低いことを示す。
  論文  参考訳（メタデータ） (2021-05-28T09:23:05Z)
• Probabilistic Regression for Visual Tracking [193.05958682821444]
  本稿では,確率論的回帰定式化を提案し,追跡に適用する。 入力画像が与えられたターゲット状態の条件付き確率密度を予測する。 トラッカーは6つのデータセットに新しい最先端のデータをセットし、LaSOTでは59.8%、TrackingNetでは75.8%のAUCを達成した。
  論文  参考訳（メタデータ） (2020-03-27T17:58:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。