論文の概要: Human-Feedback-Guided Multi-Agent Inverse Reinforcement Learning for Interactive Driving Behavior Modeling
- arxiv url: http://arxiv.org/abs/2610.33726v1
- Date: Sat, 24 Oct 2026 15:14:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.428758
- Title: Human-Feedback-Guided Multi-Agent Inverse Reinforcement Learning for Interactive Driving Behavior Modeling
- Title(参考訳): 対話型運転行動モデリングのためのヒューマンフィードバック誘導多エージェント逆強化学習
- Abstract要約: 本稿では,対話型運転行動モデリングのためのヒューマンフィードバック型多エージェント逆強化学習フレームワークを提案する。
まず、各車両とその直接相互作用する隣人を明示的にモデル化するマルチエージェント最大エントロピー逆強化学習モジュールを開発する。
第2に、Bradley-Terry の確率を通じて、人間からのフィードバックを順序的嗜好の監視として取り入れる。
- 参考スコア(独自算出の注目度): 5.791475495341447
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Modeling human driving behavior is fundamental to understanding driver decision-making and supporting autonomous vehicles (AVs) in mixed traffic. Reward learning offers a principled way to infer the latent objectives behind driving behaviors, yet most existing methods are formulated in single-agent settings and treat surrounding vehicles as dynamic obstacles. Directly extending reward learning to multi-agent scenarios is difficult because the joint action space grows exponentially with the number of interacting vehicles. In addition, existing approaches mainly rely on physical demonstrations and rarely exploit human feedback during reward recovery. To address these limitations, this paper proposes a Human-Feedback-Guided Multi-Agent Inverse Reinforcement Learning (HFG-MAIRL) framework for interactive driving behavior modeling. First, we develop a multi-agent maximum-entropy inverse reinforcement learning module that explicitly models each vehicle and its directly interacting neighbors in a localized Markov game, while using aggregated traffic states to capture the influence of the broader traffic environment. The resulting coupled multi-vehicle responses are approximated through finite marginal-response iterations over factorized vehicle-level policies, avoiding explicit enumeration of the full joint action space. Second, we incorporate human feedback as ordinal preference supervision through a Bradley-Terry likelihood. In our experiments, driver emotion labels are used as one instantiation of such feedback and converted into pairwise ordinal preference constraints. Experiments on the AIDE dataset show that HFG-MAIRL outperforms representative IRL baselines in decision modeling and produces interpretable feedback-aligned reward patterns.
- Abstract(参考訳): 人間の運転行動のモデル化は、運転者の意思決定を理解し、混合交通における自律走行車(AV)のサポートに不可欠である。
リワード学習は、運転行動の背後にある潜在目標を推論する原則的な方法を提供するが、既存のほとんどの手法は単一エージェントの設定で定式化され、周囲の車両をダイナミックな障害として扱う。
協調行動空間は、相互作用する車両の数とともに指数関数的に増加するため、報酬学習をマルチエージェントシナリオへ直接拡張することは困難である。
加えて、既存のアプローチは主に物理的なデモンストレーションに依存しており、報酬回復中に人間のフィードバックを活用することは滅多にない。
本稿では,対話型運転行動モデリングのためのHFG-MAIRL(Human-Feedback-Guided Multi-Agent Inverse Reinforcement Learning)フレームワークを提案する。
まず,局部的なマルコフゲームにおいて,各車両とその近傍の直接的相互作用を明示的にモデル化するマルチエージェント・最大エントロピー逆強化学習モジュールを開発した。
結果として生じる多重車両の応答は、分解された車両レベルのポリシーよりも有限の限界応答反復によって近似され、完全な関節アクション空間の明示的な列挙を避ける。
第2に、Bradley-Terry の確率を通じて、人間からのフィードバックを順序的嗜好の監視として取り入れる。
実験では、運転者の感情ラベルをそのようなフィードバックの1つのインスタンス化として使用し、ペアワイズ・オーディショナルな嗜好制約に変換する。
AIDEデータセットの実験では、HFG-MAIRLは決定モデリングにおいて代表的IRLベースラインを上回っ、解釈可能なフィードバック整合報酬パターンを生成する。
関連論文リスト
- SHRED: Self-Play for Heterogeneous Road-Users without Expert Demonstrations [54.33730504749514]
SHREDは、自動車、歩行者、サイクリストを大規模な異種自走で訓練するフレームワークである。
SHREDは、型固有のダイナミクスと目的を、手続きシナリオ生成とエージェントごとのランダム化と組み合わせている。
計画面では、SHREDはInterPlanベンチマークで比較したすべてのプランナーを上回っている。
論文 参考訳(メタデータ) (2026-10-14T19:56:13Z) - MAPLE: Latent Multi-Agent Play for End-to-End Autonomous Driving [62.43744546817599]
視覚言語-アクション(VLA)モデルは、エンドツーエンドのモーションプランナーとして有効であるが、クローズドループ設定で評価すると不安定である。
本稿では, VLAモデルの潜在空間における動的駆動シナリオの, リアクティブでマルチエージェントなロールアウトのための新しいフレームワークMAPLEを提案する。
MAPLEはBench2Driveで最先端の駆動性能を実現し、堅牢なE2E自動運転システムのためのスケーラブルでクローズループなマルチエージェントプレイを実演する。
論文 参考訳(メタデータ) (2026-05-13T23:35:14Z) - Driver-WM: A Driver-Centric Traffic-Conditioned Latent World Model for In-Cabin Dynamics Rollout [55.19244743715421]
Driver-WMは、ドライバー中心の潜在世界モデルで、アウトキャビンのトラフィックコンテキストを考慮に入れたインキャビンのダイナミクスをロールアウトする。
身体のキネマティクス予測を補助的な行動的・感情的意味認識と統合する。
ドライバ-WMは、反応性の高いハイモーション操作のための堅牢な長距離幾何学的予測を与える。
論文 参考訳(メタデータ) (2026-05-06T16:30:48Z) - Realistic pedestrian-driver interaction modelling using multi-agent RL with human perceptual-motor constraints [3.4087048085988765]
本稿では,歩行者エージェントとドライバエージェントの視覚的制約と運動的制約を統合したマルチエージェント強化学習フレームワークを提案する。
その結果,視覚的制約と運動的制約を併用したモデルが最適であることが示唆された。
本フレームワークは,人口レベルの分布として人的制約を制御するパラメータをモデル化することで,個人差を考慮に入れている。
論文 参考訳(メタデータ) (2025-10-31T11:18:13Z) - Discrete Diffusion for Reflective Vision-Language-Action Models in Autonomous Driving [55.13109926181247]
離散拡散による安全な軌道生成のためのリフレクション機構を統合した学習ベースのフレームワークであるReflectDriveを紹介する。
我々のアプローチの中心は、勾配のない反復的な自己補正を行う、安全を意識した反射機構である。
本手法は目標条件付き軌道生成から始まり,マルチモーダル運転動作をモデル化する。
論文 参考訳(メタデータ) (2025-09-24T13:35:15Z) - Large Language Models for Pedestrian Safety: An Application to Predicting Driver Yielding Behavior at Unsignalized Intersections [5.913801021011149]
大型言語モデル(LLM)は異種交通データからパターンを抽出するのに適しており、ドライバーと歩行者の相互作用の正確なモデリングを可能にする。
本稿では,GPT-4oが常に高い精度とリコールを達成するのに対して,Deepseek-V3は高精度であることを示す。
論文 参考訳(メタデータ) (2025-09-24T00:25:19Z) - Markov Regime-Switching Intelligent Driver Model for Interpretable Car-Following Behavior [19.229274803939983]
我々は、運転動作を異なるIDMパラメータセットで制御できるレギュラースイッチングフレームワークを導入する。
IDM力学を用いたファクショナル隠れマルコフモデルを用いてフレームワークをインスタンス化する。
論文 参考訳(メタデータ) (2025-06-17T17:55:42Z) - Probing Multimodal LLMs as World Models for Driving [72.18727651074563]
自律運転におけるMLLM(Multimodal Large Language Models)の適用について検討する。
GPT-4oのようなモデルの開発は進んでいるが、複雑な運転環境における性能は未解明のままである。
論文 参考訳(メタデータ) (2024-05-09T17:52:42Z) - Looking for a better fit? An Incremental Learning Multimodal Object
Referencing Framework adapting to Individual Drivers [0.0]
自動車産業の急速な進歩により、タッチベースや音声コマンドシステムといった従来の車両のインタラクション方法は、車両外の物体を参照するなど、幅広い非運転関連のタスクには不十分である。
textitIcRegressは、オブジェクトの駆動と参照という2つのタスクに携わるドライバーの振る舞いや特徴に適応する、新しい回帰に基づく漸進的学習手法である。
論文 参考訳(メタデータ) (2024-01-29T12:48:56Z) - Interactive Autonomous Navigation with Internal State Inference and
Interactivity Estimation [58.21683603243387]
本稿では,関係時間的推論を伴う3つの補助的タスクを提案し,それらを標準のディープラーニングフレームワークに統合する。
これらの補助的なタスクは、他の対話的エージェントの行動パターンを推測するための追加の監視信号を提供する。
提案手法は,標準評価指標の観点から,頑健かつ最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-11-27T18:57:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。