論文の概要: Dynamic Multi-Depot Vehicle Routing with Online Requests: Event-Driven Transformer--DRL and Rolling-Horizon Benchmarking
- arxiv url: http://arxiv.org/abs/2608.13799v1
- Date: Thu, 13 Aug 2026 22:05:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.217557
- Title: Dynamic Multi-Depot Vehicle Routing with Online Requests: Event-Driven Transformer--DRL and Rolling-Horizon Benchmarking
- Title(参考訳): オンライン要求による動的マルチデポッド車両ルーティング:イベント駆動トランスフォーマー--DRLとローリング水平ベンチマーク
- Abstract要約: MaskedとTransformerのポリシーは、振る舞いのクローニングとポリシーの最適化によって訓練される。
学習されたポリシーは動的挿入と時間制限された圧延ホライズンと比較される。
ルーティング効率、サービスの応答性、安定性、オンライン計算に最高の方法はひとつもなかった。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: This paper presents an event-driven learning and benchmarking framework for the Dynamic Multi-Depot Vehicle Routing Problem with progressively revealed requests and evolving vehicle states. Masked MLP and Transformer policies are trained through behavior cloning and proximal policy optimization. Deterministic feasibility masking prevents invalid vehicle--request assignments, while fixed-prefix/flexible-suffix route commitments protect completed, active, and near-term decisions and separately measure vehicle reassignment and resequencing. The learned policies are compared with dynamic insertion heuristics and time-limited rolling-horizon optimization. In a 20-scenario policy benchmark, all methods completed every request without invalid actions, but nearest feasible achieved the lowest mean objective and outperformed the learned policies in routing quality, waiting time, stability, makespan, and runtime. Across five independent training runs, PPO had little average effect on the MLP and improved the Transformer on average, although with greater seed variability. Under the common protocol, nearest feasible achieved the lowest combined objective and route disruption, whereas rolling horizon achieved the lowest waiting times and makespan at substantially higher computational cost. The learned policies retained millisecond-level decisions and transferred to instances with up to 80 requests without retraining, but did not outperform the strongest heuristic. No single method was best across routing efficiency, service responsiveness, stability, and online computation.
- Abstract(参考訳): 本稿では,動的多目的車両ルーティング問題に対するイベント駆動学習およびベンチマークフレームワークを提案する。
Masked MLPとTransformerのポリシーは、行動クローニングと近似ポリシー最適化を通じて訓練される。
決定論的実現可能性マスキングは、不正な車両要求の割り当てを防止し、一方、固定修正/フレキシブルサフィックスのルートコミットメントは、完了、アクティブ、および短期的な決定を保護し、車両の再割り当てと再シーケンスを別々に測定する。
学習方針は動的挿入ヒューリスティックスと時間限定圧延-水平最適化と比較される。
20-scenarioポリシーベンチマークでは、すべてのメソッドが無効なアクションなしですべてのリクエストを完了したが、最も近い実現性は最も低い平均目標を達成し、ルーティング品質、待ち時間、安定性、メースパン、実行時の学習ポリシーよりも優れていた。
5回の独立した訓練で、PPOはMLPに平均的な影響をほとんど与えず、トランスフォーマーを平均的に改善したが、種子の変動は大きい。
共通プロトコルの下では、最も近い実現可能性(英語版)は最小の目的と経路の破壊を達成し、一方、転がり地平線は最低の待ち時間とメイクパンを計算コストで達成した。
学習方針はミリ秒レベルの決定を保持し、再訓練なしに最大80件の要求をインスタンスに転送したが、最強のヒューリスティックよりも優れていなかった。
ルーティング効率、サービスの応答性、安定性、オンライン計算に最高の方法はひとつもなかった。
関連論文リスト
- Adaptive Inference Batching using Policy Gradients [0.0]
我々は、強化学習が適応的なルーティングポリシーを学習できるかどうかを検討する。
ReINFORCEおよびPPOエージェントをキューイング理論と生産トレースに対して離散イベントシミュレータで訓練する。
この結果から,RLは単一リソーススケジューリングではなく,マルチリソーススケジューリングに集中していることが示唆された。
論文 参考訳(メタデータ) (2026-07-06T16:20:19Z) - From Attacks to Curricula: Learnability-Guided Adversarial Training for Safe Autonomous Driving [56.30087557121323]
AlignADVは学習性誘導型クローズドループ対向トレーニングフレームワークである。
敵のシナリオを解決可能で能力に整合したカリキュラムに変換する。
実験の結果、最大40.6%のトレーニングステップが短縮された。
論文 参考訳(メタデータ) (2026-06-12T02:13:55Z) - Aligning Flow Map Policies with Optimal Q-Guidance [50.514994916864275]
フローマップポリシは、任意のサイズのジャンプを学習することで、高速なアクション生成のために設計されている。
FLOW MAP Q-GUIDANCE (FMQ) は, 批判誘導型信頼領域制約の下でオフラインフローマップポリシーを適用するのに最適な, 原則付きクローズドフォーム学習ターゲットである。
FMQは、オフラインからオフラインまでのRLにおける最先端のパフォーマンスを達成し、平均成功率に対して21.3%の相対的な改善により、以前のワンステップポリシーMVPを上回っている。
論文 参考訳(メタデータ) (2026-05-12T17:12:29Z) - Beyond Conservative Automated Driving in Multi-Agent Scenarios via Coupled Model Predictive Control and Deep Reinforcement Learning [7.804905867413516]
モデル予測制御(MPC)は、最適化による構造化制約処理を提供する。
深層強化学習(Deep Reinforcement Learning, RL)は、経験から適応的な行動を学ぶが、安全保証に苦慮することが多い。
マルチエージェントシナリオにおけるナビゲーション性能を改善するための統合MPC-RLフレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-15T13:58:38Z) - FlashSAC: Fast and Stable Off-Policy Reinforcement Learning for High-Dimensional Robot Control [55.38832429564216]
強化学習(Reinforcement Learning, RL)は、専門家によるデモンストレーションが利用できない場合のロボット制御における中核的なアプローチである。
我々は,Soft Actor-Critic上に構築された高速で安定なオフポリチィRLアルゴリズムであるFlashSACを提案する。
10のシミュレータで60以上のタスクをこなし、FlashSACは最終的なパフォーマンスとトレーニング効率の両方において、PPOと強力なオフポリシーベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-04-06T09:03:41Z) - Drift-Based Policy Optimization: Native One-Step Policy Learning for Online Robot Control [42.5826210330077]
多段階生成ポリシーは、多モード動作分布をモデル化することにより、ロボット操作において強力な性能を達成する。
各アクションは、数十から数百のネットワーク機能評価を必要とする。
本稿では,改良を推論からトレーニングにシフトさせる,ネイティブなワンステップ生成ポリシーのための2段階フレームワークを提案する。
論文 参考訳(メタデータ) (2026-04-04T01:32:01Z) - A Step Back: Prefix Importance Ratio Stabilizes Policy Optimization [58.116300485427764]
強化学習のポストトレーニングは、大きな言語モデルにおける推論の振る舞いを引き出すことができる。
トークンレベルの補正は、オフポリシーネスの度合いが大きい場合、不安定なトレーニングダイナミクスにつながることが多い。
我々は,最小固定率 (MinPRO) を簡易かつ効果的に提案する。
論文 参考訳(メタデータ) (2026-01-30T08:47:19Z) - Relative Entropy Pathwise Policy Optimization [66.03329137921949]
そこで本稿では,Q値モデルをオンライントラジェクトリから純粋に訓練するオンラインアルゴリズムを提案する。
安定トレーニングのための制約付き更新と探索のためのポリシを組み合わせる方法を示し、価値関数学習を安定化させる重要なアーキテクチャコンポーネントを評価する。
論文 参考訳(メタデータ) (2025-07-15T06:24:07Z) - Adaptive Opponent Policy Detection in Multi-Agent MDPs: Real-Time Strategy Switch Identification Using Running Error Estimation [1.079960007119637]
OPS-DeMoは、動的エラー減衰を利用して相手のポリシーの変更を検出するオンラインアルゴリズムである。
提案手法は,プレデター・プレイ設定のような動的シナリオにおいて,PPO学習モデルよりも優れている。
論文 参考訳(メタデータ) (2024-06-10T17:34:44Z) - Equilibrium Inverse Reinforcement Learning for Ride-hailing Vehicle
Network [1.599072005190786]
疎結合グラフにおける客車マッチングの問題を定式化する。
マルチエージェント環境における平衡ポリシを導出するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-13T03:18:44Z) - Guided Constrained Policy Optimization for Dynamic Quadrupedal Robot
Locomotion [78.46388769788405]
我々は,制約付きポリシー最適化(CPPO)の実装に基づくRLフレームワークであるGCPOを紹介する。
誘導制約付きRLは所望の最適値に近い高速収束を実現し,正確な報酬関数チューニングを必要とせず,最適かつ物理的に実現可能なロボット制御動作を実現することを示す。
論文 参考訳(メタデータ) (2020-02-22T10:15:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。