論文の概要: RLFTSim: Realistic and Controllable Multi-Agent Traffic Simulation via Reinforcement Learning Fine-Tuning
- arxiv url: http://arxiv.org/abs/2605.19033v1
- Date: Mon, 18 May 2026 18:57:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:08.948075
- Title: RLFTSim: Realistic and Controllable Multi-Agent Traffic Simulation via Reinforcement Learning Fine-Tuning
- Title(参考訳): RLFTSim:強化学習ファインチューニングによる現実的で制御可能なマルチエージェントトラフィックシミュレーション
- Authors: Ehsan Ahmadi, Hunter Schofield, Behzad Khamidehi, Fazel Arasteh, Jinjun Shan, Lili Mou, Dongfeng Bai, Kasra Rezaee,
- Abstract要約: 本稿では,強化学習に基づく微調整フレームワーク RLFTSim を紹介する。
シミュレータのロールアウトと実世界のデータ分散を整列することで、シナリオリアリズムを強化する。
また,目標条件設定による交通シミュレーションの再現性向上のための手法の有効性を実証する。
- 参考スコア(独自算出の注目度): 19.985714275376726
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Supervised open-loop training has been widely adopted for training traffic simulation models; however, it fails to capture the inherently dynamic, multi-agent interactions common in complex driving scenarios. We introduce RLFTSim, a reinforcement-learning-based fine-tuning framework that enhances scenario realism by aligning simulator rollouts with real-world data distributions and provides a method for distilling goal-conditioned controllability in scenario generation. We instantiate RLFTSim on top of a pre-trained simulation model, design a reward that balances fidelity and controllability, and perform comprehensive experiments on the Waymo Open Motion Dataset. Our results show improvements in realism, achieving state-of-the-art performance. Compared with other heuristic search-based fine-tuning methods, RLFTSim requires significantly fewer samples due to a proposed low-variance and dense reward signal, and it directly addresses the realism alignment issue by design. We also demonstrate the effectiveness of our approach for distilling traffic simulation controllability through goal conditioning. The project page is available at https://ehsan-ami.github.io/rlftsim.
- Abstract(参考訳): 改良されたオープンループトレーニングは、交通シミュレーションモデルのトレーニングに広く採用されているが、複雑な運転シナリオに共通する本質的に動的でマルチエージェントなインタラクションを捉えることに失敗している。
RLFTSimは,シミュレーションロールアウトと実世界のデータ分布を整列させることによりシナリオリアリズムを向上させる,強化学習に基づく微調整フレームワークであり,シナリオ生成における目標条件制御性を蒸留する方法を提供する。
我々は、事前訓練されたシミュレーションモデルの上にRDFTSimをインスタンス化し、忠実度と制御可能性のバランスをとる報酬を設計し、Waymo Open Motion Datasetで包括的な実験を行う。
以上の結果から, 現実性の向上, 最先端性能の達成が示唆された。
他のヒューリスティック検索に基づく微調整法と比較して、RLFTSimは低分散かつ高密度な報酬信号が提案されているため、サンプルをはるかに少なくし、設計によるリアリズムアライメント問題に直接対処する。
また,目標条件設定による交通シミュレーションの再現性向上のための手法の有効性を実証する。
プロジェクトのページはhttps://ehsan-ami.github.io/rlftsim.comで公開されている。
関連論文リスト
- Simulating Environments with Reasoning Models for Agent Training [55.98861707136674]
トレーニング用の起動環境の構築は重く、脆く、進捗を制限します。
我々はSimia-SFTとSimia-RLの2つのフレームワークを提案する。
Simia-SFTとSimia-RLは、環境工学を使わずにスケーラブルなエージェントトレーニングを可能にする。
論文 参考訳(メタデータ) (2025-11-03T18:29:57Z) - Advancing Multi-agent Traffic Simulation via R1-Style Reinforcement Fine-Tuning [35.83999932977034]
エージェントの振る舞いを人間の好みや評価指標とよりよく整合させるため,次世代の予測モデルに適した新しいR1型強化微調整パラダイムを提案する。
提案手法では、分布アライメントを改善するためのメトリック指向ポリシー最適化アルゴリズムと、スーパービジョンファインチューニング(SFT)と強化ファインチューニング(RFT)を交互に行う反復的な"SFT-RFT-SFT"トレーニング戦略を導入する。
Open Sim Agents Challengeの結果、SMART-R1は総合リアリズムメタスコア0.7858で最先端のパフォーマンスを達成した。
論文 参考訳(メタデータ) (2025-09-28T17:36:13Z) - RIFT: Group-Relative RL Fine-Tuning for Realistic and Controllable Traffic Simulation [13.319344167881383]
データ駆動シミュレーターにおいて、模擬学習事前学習を行う2段階のAV中心シミュレーションフレームワークを導入する。
次に、物理に基づくシミュレータで微調整を学習し、スタイルレベルの制御性を向上する。
微調整段階において,新しいグループ関連RL微調整戦略であるRIFTを提案する。
論文 参考訳(メタデータ) (2025-05-06T09:12:37Z) - Pre-Trained Video Generative Models as World Simulators [59.546627730477454]
本研究では,事前学習した映像生成モデルを制御可能な世界シミュレータに変換するための動的世界シミュレーション(DWS)を提案する。
条件付き動作と生成した視覚的変化の正確なアライメントを実現するために,軽量で普遍的な動作条件付きモジュールを導入する。
実験により、DWSは拡散モデルと自己回帰変換モデルの両方に汎用的に適用可能であることが示された。
論文 参考訳(メタデータ) (2025-02-10T14:49:09Z) - CityFlowER: An Efficient and Realistic Traffic Simulator with Embedded
Machine Learning Models [25.567208505574072]
CityFlowERは、効率的で現実的な都市交通シミュレーションのための高度なシミュレータである。
シミュレータ内に機械学習モデルが組み込まれており、外部APIインタラクションの必要がなくなる。
これは、特に大規模なシミュレーションにおいて、非並列な柔軟性と効率を提供する。
論文 参考訳(メタデータ) (2024-02-09T01:19:41Z) - Waymax: An Accelerated, Data-Driven Simulator for Large-Scale Autonomous
Driving Research [76.93956925360638]
Waymaxは、マルチエージェントシーンにおける自動運転のための新しいデータ駆動シミュレータである。
TPU/GPUなどのハードウェアアクセラレータで完全に動作し、トレーニング用のグラフ内シミュレーションをサポートする。
我々は、一般的な模倣と強化学習アルゴリズムのスイートをベンチマークし、異なる設計決定に関するアブレーション研究を行った。
論文 参考訳(メタデータ) (2023-10-12T20:49:15Z) - Reinforcement Learning with Human Feedback for Realistic Traffic
Simulation [53.85002640149283]
効果的なシミュレーションの鍵となる要素は、人間の知識と整合した現実的な交通モデルの導入である。
本研究では,現実主義に対する人間の嗜好のニュアンスを捉えることと,多様な交通シミュレーションモデルを統合することの2つの主な課題を明らかにする。
論文 参考訳(メタデータ) (2023-09-01T19:29:53Z) - TrafficBots: Towards World Models for Autonomous Driving Simulation and
Motion Prediction [149.5716746789134]
我々は,データ駆動型交通シミュレーションを世界モデルとして定式化できることを示した。
動作予測とエンドツーエンドの運転に基づくマルチエージェントポリシーであるTrafficBotsを紹介する。
オープンモーションデータセットの実験は、TrafficBotsが現実的なマルチエージェント動作をシミュレートできることを示している。
論文 参考訳(メタデータ) (2023-03-07T18:28:41Z) - TrafficSim: Learning to Simulate Realistic Multi-Agent Behaviors [74.67698916175614]
リアル交通シミュレーションのためのマルチエージェント行動モデルであるTrafficSimを提案する。
特に、暗黙の潜在変数モデルを利用して、共同アクターポリシーをパラメータ化する。
TrafficSimは、多様なベースラインと比較して、より現実的で多様なトラフィックシナリオを生成します。
論文 参考訳(メタデータ) (2021-01-17T00:29:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。