論文の概要: Comprehensive Comparisons of Reinforcement Learning Algorithms in Autonomous Driving
- arxiv url: http://arxiv.org/abs/2610.19429v1
- Date: Wed, 14 Oct 2026 02:25:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.899087
- Title: Comprehensive Comparisons of Reinforcement Learning Algorithms in Autonomous Driving
- Title(参考訳): 自律運転における強化学習アルゴリズムの総合比較
- Abstract要約: 最適性と安全性,トレーニング安定性,トレーニングおよび意思決定コストの4つの代表的強化学習(RL)手法を比較した。
これらの結果に基づき、モデルが利用可能かどうか、トレーニング予算、安定したトレーニングが必要かどうかに応じて、メソッドを選択するための提案を行う。
- 参考スコア(独自算出の注目度): 2.255961793913651
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper presents a comprehensive comparison of four representative reinforcement learning (RL) methods in autonomous vehicle (AV) decision-making, including: Fitted Value Iteration (FVI), Rollout Classification Policy Iteration (RCPI), Deep Q-Network (DQN), and a discrete-action adaptation of Deep Deterministic Policy Gradient (D-DDPG). The four methods are applied to the same AV decision-making problem at an unsignalized intersection and are compared in terms of optimality and safety, training stability, and training and decision cost. RCPI is the closest to a reference solution and has the most stable training process. However, it is the least data-efficient. D-DDPG reaches the second-smallest gap to a reference solution with the highest data efficiency, but has the least training stability. DQN is the most stable model-free method but has the highest collision rate. FVI achieves a lower collision rate than DQN, but is less data-efficient and less stable. Based on these results, we provide suggestions for selecting a method according to whether a model is available, the budget for training, and whether stable training is required.
- Abstract(参考訳): 本稿では,FVI,RCPI,DQN,Deep Deterministic Policy Gradient(D-DDPG)の離散的適応を含む,自律走行車(AV)意思決定における4つの代表的な強化学習手法を総合的に比較する。
この4つの手法は、符号のない交差点における同じAV意思決定問題に適用され、最適性と安全性、トレーニング安定性、トレーニングと意思決定コストの観点から比較される。
RCPIは参照ソリューションに最も近づき、最も安定したトレーニングプロセスを持つ。
しかし、これは最もデータ効率が低い。
D-DDPGは、データ効率が最も高い基準解に2番目に小さいギャップに達するが、トレーニングの安定性は最小である。
DQNは最も安定なモデルフリー法であるが、衝突速度が最も高い。
FVIはDQNよりも衝突速度が低いが、データ効率は低く、安定性も低い。
これらの結果に基づき、モデルが利用可能かどうか、トレーニング予算、安定したトレーニングが必要かどうかに応じて、メソッドを選択するための提案を行う。
関連論文リスト
- CircuitLens: Reasoning Circuits as Data Selection Signals for Reinforcement Learning with Verifiable Rewards [9.41727721095383]
サーキット推論スコア (Circuit Reasoning Score, CRS) は46個のアテンションヘッドから導出される選択信号である。
CRSは、より強い推論と回路のエンゲージメントがより良いトレーニングデータを生成するという直感的な仮説に逆らう。
論文 参考訳(メタデータ) (2026-09-07T08:14:26Z) - Unified Data Selection for LLM Reasoning [66.0118347918729]
複雑で長いCoT推論のための大規模言語モデル(LLM)のトレーニングは、しばしば大量の高品質な推論データの必要性によってボトルネックとなる。
本研究では,各推論サンプルの上位(例えば0.5%)のエントロピートークンのみを和らげることで,推論品質を定量化する学習自由度指標であるHigh-Entropy Sum(HES)を提案する。
論文 参考訳(メタデータ) (2026-05-21T12:21:41Z) - ScoRe-Flow: Complete Distributional Control via Score-Based Reinforcement Learning for Flow Matching [14.421249343302028]
フローマッチング(FM)ポリシーは、ロボット制御の効率的なバックボーンとして登場した。
本稿では,楽譜に基づくRLファインチューニング手法であるScoRe-Flowを提案する。
論文 参考訳(メタデータ) (2026-04-13T03:56:37Z) - Not All Preferences Are Created Equal: Stability-Aware and Gradient-Efficient Alignment for Reasoning Models [52.48582333951919]
ポリシー更新の信号対雑音比を最大化することにより、アライメントの信頼性を高めるために設計された動的フレームワークを提案する。
SAGE(Stability-Aware Gradient Efficiency)は、モデル能力に基づいて候補プールをリフレッシュする粗いきめ細かいカリキュラムメカニズムを統合する。
複数の数学的推論ベンチマークの実験により、SAGEは収束を著しく加速し、静的ベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2026-02-01T12:56:10Z) - Offline Reinforcement Learning with Wasserstein Regularization via Optimal Transport Maps [47.57615889991631]
オフライン強化学習(RL)は、静的データセットから最適なポリシーを学ぶことを目的としている。
本稿では,分布外データに対して頑健なワッサースタイン距離を利用する手法を提案する。
提案手法は,D4RLベンチマークデータセット上で広く使用されている手法と同等あるいは優れた性能を示す。
論文 参考訳(メタデータ) (2025-07-14T22:28:36Z) - Optimal Sequential Decision-Making in Geosteering: A Reinforcement Learning Approach [0.0]
ジオステアリングと呼ばれる掘削プロセス全体の軌道調整決定は、その後の選択や情報収集に影響を与える。
本研究では,決定環境から直接学習するモデルフリー強化学習(RL)手法であるDeep Q-Network(DQN)手法を用いる。
これまでに2つの合成ジオステアリングシナリオに対して,RLは準最適ADPに匹敵する高品質な結果が得られることを示した。
論文 参考訳(メタデータ) (2023-10-07T10:49:30Z) - An Experimental Design Perspective on Model-Based Reinforcement Learning [73.37942845983417]
環境からの状態遷移を観察するのは費用がかかる。
標準RLアルゴリズムは通常、学習するために多くの観測を必要とする。
本稿では,マルコフ決定過程について,状態-作用対がどの程度の情報を提供するかを定量化する獲得関数を提案する。
論文 参考訳(メタデータ) (2021-12-09T23:13:57Z) - Federated Learning on the Road: Autonomous Controller Design for
Connected and Autonomous Vehicles [109.71532364079711]
CAV(コネクテッド・アンド・自律車両)の自律制御設計のための新しい統合学習(FL)フレームワークの提案
CAVの移動性、無線フェーディングチャネル、および不均衡で非独立で同一に分散されたデータを考慮に入れた新しい動的フェデレーション・プロキシ(DFP)アルゴリズムが提案されている。
最適制御器を用いてCAVがどの程度の速度で収束するかを同定するために,提案アルゴリズムに対して厳密な収束解析を行う。
論文 参考訳(メタデータ) (2021-02-05T19:57:47Z) - An Online Method for A Class of Distributionally Robust Optimization
with Non-Convex Objectives [54.29001037565384]
本稿では,オンライン分散ロバスト最適化(DRO)のクラスを解決するための実用的なオンライン手法を提案する。
本研究は,ネットワークの堅牢性向上のための機械学習における重要な応用を実証する。
論文 参考訳(メタデータ) (2020-06-17T20:19:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。