論文の概要: Beyond Policy Support: Interaction Constrained Offline Reinforcement Learning for Autonomous Driving
- arxiv url: http://arxiv.org/abs/2610.09763v1
- Date: Wed, 07 Oct 2026 09:48:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.838863
- Title: Beyond Policy Support: Interaction Constrained Offline Reinforcement Learning for Autonomous Driving
- Title(参考訳): 政策支援を超えて: 自律運転のためのオフライン強化学習のインタラクション
- Abstract要約: 本稿では,対話レベルの分散シフトを明示的に制御するオフライン強化学習フレームワークであるemphInteraction-Constrained Drive Policy (ICDP)を紹介する。
ICDPは、高価値だが相互作用に依存しない軌道選択を抑え、相互作用クリティカルな駆動シナリオの性能を向上させる。
- 参考スコア(独自算出の注目度): 8.096595622550442
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Offline reinforcement learning enables reward-driven policy improvement from fixed datasets without requiring online exploration, making it particularly attractive in safety-critical domains. A central challenge, however, is distribution shift: policy optimization may favor actions that are weakly supported by the offline data, rendering value estimates unreliable. Existing approaches primarily control this shift in the policy's own action space. In interactive environments such as autonomous driving, this can be insufficient: a candidate ego trajectory may remain well supported under the marginal behavior distribution while being poorly supported jointly with the surrounding-agent behavior observed in the logged interaction. We refer to this degradation in interaction support as \emph{interaction distribution shift} (IDS), and introduce \emph{Interaction-Constrained Drive Policy} (ICDP), an offline reinforcement learning framework that explicitly controls interaction-level distribution shift. Starting from the joint data distribution over ego and surrounding-agent futures, we show that joint-support degradation decomposes exactly into an ego-support component and a residual interaction-support component. We recover the latter through contrastive density-ratio estimation, isolating interaction compatibility without explicit joint-density modeling, surrounding-agent prediction, or rollouts in reactive simulators or learned world models during policy optimization. Closed-loop evaluations on nuPlan, Interplan and real-world truck experiments show that ICDP suppresses high-value yet interaction-unsupported trajectory selections and improves performance in interaction-critical driving scenarios. Project webpage: https://mahmoud-selim.github.io/ICDP/
- Abstract(参考訳): オフライン強化学習は、オンライン探索を必要とせずに、固定データセットから報酬駆動のポリシー改善を可能にする。
ポリシの最適化は、オフラインデータによって弱いサポートを受けるアクションを好んでおり、値の予測は信頼できない。
既存のアプローチは、政策の行動空間におけるこのシフトを主に制御する。
自律運転のようなインタラクティブな環境では、これは不十分である: 候補エゴ軌道は、ログ化された相互作用で観察される周囲のエージェントの挙動と協調的にサポートされていないが、限界行動分布下では十分に支持される。
本稿では、この相互作用支援の劣化を、相互作用レベルの分散シフトを明示的に制御するオフライン強化学習フレームワークである 'emph{Interaction-Constrained Drive Policy} (ICDP) と呼ぶ。
エゴ・アジェント・フューチャーにおける共同データ分布から, 共同支援劣化はエゴ・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・アジェント・
政策最適化中の反応シミュレータや学習世界のモデルにおいて、相対的密度比推定、明示的な結合密度モデリング、周辺エージェント予測、ロールアウトなしでの相互作用互換性の分離、およびロールアウトにより後者を回復する。
nuPlan, Interplan, 実世界のトラック実験のクローズループ評価では、ICDPは高価値だが相互作用に依存しない軌道選択を抑制し、相互作用クリティカルな運転シナリオにおける性能を向上させる。
プロジェクトWebページ: https://mahmoud-selim.github.io/ICDP/
関連論文リスト
- RoXDrive: Closed-Loop Reinforcement Learning for End-to-End Autonomous Driving via Action-Faithful Rollouts [98.41251854883184]
強化学習(RL)ポストトレーニングは、現在のアプローチに代わる有望な代替手段を提供する。
ビデオワールドモデルは、現実的な多段階の将来のロールアウトを生成する能力を示したが、アクション条件を忠実に反映しないかもしれない。
本稿では,信頼性の高いポリシ最適化を実現するプラグイン・アンド・プレイクローズドループRLフレームワークであるRoXDriveを紹介する。
論文 参考訳(メタデータ) (2026-09-29T06:59:50Z) - Learning to Watch: Active Video Anomaly Understanding via Interleaved Policy Optimization [56.150184676745205]
ビデオ異常理解(VAU)は、スパースでコンテキストに依存した手がかりに依存している。
本稿では,映像理解をアクティブな逐次意思決定プロセスとして再認識するクローズドループフレームワークである$Anomtext-$を提案する。
人間のビデオレビュー行動に触発されたこのフレームワークは、内部の認知的推論と戦略的エビデンスを、インターリーブされたポリシーに統一する。
論文 参考訳(メタデータ) (2026-07-01T08:41:49Z) - Causality-Aware End-to-End Autonomous Driving via Ego-Centric Joint Scene Modeling [20.79524129066014]
本稿では、CaADと呼ばれる、因果認識のエンドツーエンド自動運転フレームワークを提案する。
まず,限界予測分岐上に構築されたエゴ中心の合同因果モデリングモジュールを提案する。
第2に,エゴ政策を計画指向閉ループフィードバックと整合させるために,共同モード埋め込みで実装した因果対応政策アライメントステージを採用する。
論文 参考訳(メタデータ) (2026-05-13T15:06:22Z) - TSC: Topology-Conditioned Stackelberg Coordination for Multi-Agent Reinforcement Learning in Interactive Driving [37.09409794849228]
トポロジ条件付きStackelberg Coordinationは、コミュニケーションフリー実行下での分散インタラクティブ運転のための学習フレームワークである。
TSCは,主要な指標をまたいだ代表的MARLベースラインよりも優れた性能を示す。
論文 参考訳(メタデータ) (2026-02-27T10:46:41Z) - DecompGAIL: Learning Realistic Traffic Behaviors with Decomposed Multi-Agent Generative Adversarial Imitation Learning [59.63038625580992]
既存の模倣学習アプローチは、しばしば現実的な交通行動のモデル化に失敗する。
本稿では,現実性をエゴマップとエゴ隣接コンポーネントに明示的に分解するDecompGAILを提案する。
DecompGAILは、WOMD Sim Agents 2025ベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-10-08T11:46:39Z) - DiFSD: Ego-Centric Fully Sparse Paradigm with Uncertainty Denoising and Iterative Refinement for Efficient End-to-End Self-Driving [55.53171248839489]
我々は、エンドツーエンドの自動運転のためのエゴ中心の完全スパースパラダイムであるDiFSDを提案する。
特に、DiFSDは主にスパース知覚、階層的相互作用、反復的な運動プランナーから構成される。
nuScenesとBench2Driveデータセットで実施された実験は、DiFSDの優れた計画性能と優れた効率を実証している。
論文 参考訳(メタデータ) (2024-09-15T15:55:24Z) - Interactive Autonomous Navigation with Internal State Inference and
Interactivity Estimation [58.21683603243387]
本稿では,関係時間的推論を伴う3つの補助的タスクを提案し,それらを標準のディープラーニングフレームワークに統合する。
これらの補助的なタスクは、他の対話的エージェントの行動パターンを推測するための追加の監視信号を提供する。
提案手法は,標準評価指標の観点から,頑健かつ最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-11-27T18:57:42Z) - Domain Knowledge Driven Pseudo Labels for Interpretable Goal-Conditioned
Interactive Trajectory Prediction [29.701029725302586]
目標条件付きフレームワークを用いた共同軌道予測問題について検討する。
本研究では,条件付き変分自動エンコーダ(CVAE)モデルを導入し,異なる相互作用モードを潜在空間に明示的にエンコードする。
KLの消滅を回避する新しい手法を提案し、擬似ラベルを用いた解釈可能な対話型潜在空間を誘導する。
論文 参考訳(メタデータ) (2022-03-28T21:41:21Z) - Learning Interaction-aware Guidance Policies for Motion Planning in
Dense Traffic Scenarios [8.484564880157148]
本稿では,高密度交通シナリオにおける対話型モーションプランニングのための新しい枠組みを提案する。
我々は,他車両の協調性に関する国際的ガイダンスを提供するインタラクション対応政策であるDeep Reinforcement Learning (RL) を通じて学習することを提案する。
学習されたポリシーは、ローカル最適化ベースのプランナーを推論し、対話的な振る舞いで誘導し、他の車両が収まらない場合に安全を維持しながら、密集したトラフィックに積極的にマージする。
論文 参考訳(メタデータ) (2021-07-09T16:43:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。