論文の概要: Off the Rails: Hijacking the Scoring Head in Generative End-to-End Driving Planners with Safety-Violating Adversarial Perturbations
- arxiv url: http://arxiv.org/abs/2606.30807v1
- Date: Mon, 29 Jun 2026 18:32:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:18.968738
- Title: Off the Rails: Hijacking the Scoring Head in Generative End-to-End Driving Planners with Safety-Violating Adversarial Perturbations
- Title（参考訳）: Railsを脱却する: 安全を侵害する逆境を回避した次世代の運転プランナでスコーリングヘッドをハイジャックする
- Abstract要約: 我々は、スコアリングヘッド攻撃面を利用する敵フレームワークであるtextscDerail を提示する。
textscDerailは、安全な候補から安全でない候補への軌道選択を反転させ、スコアは39$--80%$、衝突率は最大50%$である。
本分析は,ADプランナーに対する攻撃効果は安全違反対象が支配しており,また,スコアヘッド推論パターン自体が攻撃面の繰り返しであり,明確な防御的考察に値することを示唆している。
- 参考スコア（独自算出の注目度）: 19.535238501602556
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative models have recently seen rapid adoption in End-to-End (E2E) autonomous driving (AD), with diffusion-based denoising and vocabulary-based retrieval becoming the dominant trajectory-decoding paradigms. Despite their architectural diversity, current generative AD planners share a common inference pattern: a fixed set of candidate trajectories (anchors, vocabulary entries, or proposal queries) is scored by one or more learned heads conditioned on the Bird's-Eye-View (BEV) features, and the highest-scored candidate is returned as the final trajectory. Under this design, the scoring head is the only barrier between perception and the motion command, and its decision margins between competing candidates are often small. We introduce \textsc{Derail}, an adversarial framework that exploits this scoring-head attack surface. Evaluated on various generative planners, \textsc{Derail} flips the trajectory selection from a safe to an unsafe candidate, with score drops of $39$--$80\%$ and collision rates of up to $50\%$, consistently outperforming generic loss-maximization and feature-divergence attacks. Our analysis suggests that safety-violating objectives govern attack effectiveness against generative AD planners, and that the scoring-head inference pattern itself is a recurring attack surface worth explicit defensive consideration.
- Abstract（参考訳）: 生成モデルは最近、E2E(End-to-End)自律運転(AD)に急速に採用され、拡散に基づく認知と語彙に基づく検索が主流の軌道デコーディングパラダイムとなっている。
固定された候補軌跡(アンカー、語彙エントリ、提案クエリ)は、Bird's-Eye-View (BEV) 機能で条件付けられた1つ以上の学習ヘッドによってスコアされ、最も上位の候補が最終軌跡として返される。
この設計の下では、スコアリングヘッドは知覚とモーションコマンドの間の唯一の障壁であり、競合する候補間の決定マージンは小さいことが多い。
本稿では、このスコアリングヘッド攻撃面を利用する逆フレームワークであるtextsc{Derail}を紹介する。
さまざまなジェネレーティブプランナに基づいて評価された \textsc{Derail} は、安全な候補から安全でない候補への軌道選択を反転させ、スコアは39$--80\%$で、衝突率は最大50\%$で、総損失最大化と機能偏差攻撃を一貫して上回る。
本分析は,ADプランナーに対する攻撃効果は安全違反対象が支配しており,また,スコアヘッド推論パターン自体が攻撃面の繰り返しであり,明確な防御的考察に値することを示唆している。
関連論文リスト
- Ghost: Plausible Yet Unlearnable Trajectories via On-Manifold Substitution for Next-POI Privacy [34.07056031726073]
チェックイントラジェクトリをリリースするパブリッシャは、ユーザの将来位置の強い予測器を不注意に公開する。
このリスクに対処するために、クリーンなテスト入力に対して次点次点(next-POI)の精度を低下させた被害者モデルを生成する、学習不能なトラジェクトリ、摂動シーケンスを生成する。
我々はGhostを提案する。Ghostは、摂動が人間のチェックインシーケンスのように見えるが、学習可能な信号は残っていない。
論文 参考訳（メタデータ） (2026-06-02T14:31:14Z) - BYORn: Bootstrap Your Own Responses to Defend Large Vision-Language Models Against Backdoor Attacks [0.0]
教師付き微調整は、下流タスクに自動回帰視覚言語モデルを適用する主要なアプローチである。
近年の研究では、このパラダイムはバックドア攻撃に対して非常に脆弱であることが示されている。
本研究では, 有害な標的応答が意味論的に理解できない場合が多いという観察に動機づけられた, バックドア・ローバスト微調整フレームワークを提案する。
論文 参考訳（メタデータ） (2026-06-01T22:58:04Z) - TRAP: Tail-aware Ranking Attack for World-Model Planning [6.036879290384491]
世界モデルは、想像上の軌道の長い尾のランキング構造に根ざした、明確なバックドアの脆弱性を示す。
この脆弱性を悪用するため,世界モデルのためのバックドアアタックフレームワークであるTRAPを提案する。
論文 参考訳（メタデータ） (2026-05-03T16:19:45Z) - Adversarial Robustness in One-Stage Learning-to-Defer [7.413102772934999]
Learning-to-Defer(L2D)は、入力を予測者または外部の専門家にルーティングすることで、ハイブリッドな意思決定を可能にする。
有望ではあるが、L2Dは敵の摂動に対して非常に脆弱であり、予測を反転させるだけでなく、遅延決定を操作できる。
第一段階のL2Dでは, 分類と回帰の両方を網羅し, 対向ロバスト性に関する最初の枠組みを紹介した。
論文 参考訳（メタデータ） (2025-10-13T03:55:55Z) - Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。
既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。
我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
論文 参考訳（メタデータ） (2025-10-10T18:42:32Z) - The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems [101.68501850486179]
本稿では,RAGシステムに対する敵攻撃について検討し,その脆弱性を同定する。
このタスクは、ターゲット文書を検索する非知覚的な摂動を見つけることを目的としており、もともとはトップ$k$の候補セットから除外されていた。
本稿では、攻撃者とターゲットRAG間の相互作用を追跡する強化学習ベースのフレームワークであるReGENTを提案する。
論文 参考訳（メタデータ） (2025-05-24T08:19:25Z) - Black-Box Adversarial Attack on Vision Language Models for Autonomous Driving [65.61999354218628]
我々は、自律運転システムにおいて、視覚言語モデル(VLM)をターゲットとしたブラックボックス敵攻撃を設計する第一歩を踏み出す。
セマンティクスの生成と注入による低レベル推論の分解を目標とするカスケーディング・アディバーショナル・ディスラプション(CAD)を提案する。
本稿では,高レベルリスクシナリオの理解と構築に代理VLMを活用することで,動的適応に対処するリスクシーンインジェクションを提案する。
論文 参考訳（メタデータ） (2025-01-23T11:10:02Z) - Advancing Generalized Transfer Attack with Initialization Derived Bilevel Optimization and Dynamic Sequence Truncation [49.480978190805125]
転送攻撃はブラックボックスアプリケーションに大きな関心を惹きつける。
既存の作業は、本質的に単一のレベルの目的 w.r.t. シュロゲートモデルを直接最適化する。
本稿では,上位レベル(UL)と下位レベル(LL)のサロゲート攻撃とのネスト関係を明示的に再構築する2レベル最適化手法を提案する。
論文 参考訳（メタデータ） (2024-06-04T07:45:27Z) - Alternating Objectives Generates Stronger PGD-Based Adversarial Attacks [78.2700757742992]
Projected Gradient Descent (PGD) は、そのような敵を生成するための最も効果的で概念的にシンプルなアルゴリズムの1つである。
この主張を合成データの例で実験的に検証し、提案手法を25の$ell_infty$-robustモデルと3つのデータセットで評価した。
私たちの最強の敵攻撃は、AutoAttackアンサンブルのすべてのホワイトボックスコンポーネントより優れています。
論文 参考訳（メタデータ） (2022-12-15T17:44:31Z) - Towards Adversarial Patch Analysis and Certified Defense against Crowd
Counting [61.99564267735242]
安全クリティカルな監視システムの重要性から、群衆のカウントは多くの注目を集めています。
近年の研究では、ディープニューラルネットワーク(DNN)の手法が敵の攻撃に弱いことが示されている。
群衆カウントモデルのロバスト性を評価するために,Momentumを用いた攻撃戦略としてAdversarial Patch Attackを提案する。
論文 参考訳（メタデータ） (2021-04-22T05:10:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。