論文の概要: Deep Reinforcement Learning for Dynamic Battery Management of Autonomous Order Pickers
- arxiv url: http://arxiv.org/abs/2607.05683v1
- Date: Mon, 06 Jul 2026 22:52:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-08 21:24:51.34764
- Title: Deep Reinforcement Learning for Dynamic Battery Management of Autonomous Order Pickers
- Title(参考訳): 自動ピッカーの動的電池管理のための深部強化学習
- Abstract要約: 倉庫における自律移動ロボット(AMR)の電池充電は、注文処理時間とスループットの両方に大きな影響を与える重要な運用上の課題である。
本研究では,ロボットが最適な充電決定を学習しなければならないオーダー到着時の動的AMR充電問題に対処する。
固定充電ステーションを有するマルチブロック倉庫を対象とした,PPOに基づくDeep Reinforcement Learning(DRL)フレームワークを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Battery charging of Autonomous Mobile Robots (AMRs) in warehouses is a critical operational challenge that heavily impacts both order processing times and throughput. In this study, we address the dynamic AMR charging problem under stochastic order arrivals, where robots must learn optimal charging decisions. Traditional fixed-rule heuristics often prove suboptimal in dynamic environments and fail to account for multi-AMR coordination, leading to severe resource inefficiencies. To overcome these limitations, we propose a Proximal Policy Optimization (PPO)-based Deep Reinforcement Learning (DRL) framework designed for multi-block warehouses with fixed charging stations. Our model dynamically learns two key decisions: charging station selection and optimal charging duration, explicitly accounting for anticipated queuing times at the stations. Extensive numerical experiments benchmark the proposed model against state-of-the-art DRL and traditional heuristic approaches. Results demonstrate that our PPO framework increases order-completion rates by up to 6\% compared to the strongest baseline, while significantly reducing the total time dedicated to recharging operations. Furthermore, we validate the model's robustness across diverse warehouse configurations and stochastic arrival rates. Finally, we interpret the learned DRL policy, offering valuable operational insights into its superiority over standard benchmarks.
- Abstract(参考訳): 倉庫における自律移動ロボット(AMR)の電池充電は、注文処理時間とスループットの両方に大きな影響を与える重要な運用上の課題である。
本研究では,ロボットが最適な充電決定を学習しなければならない確率的オーダー到着時の動的AMR充電問題に対処する。
従来の固定ルールヒューリスティックスは、動的環境において最適でないことがしばしば証明され、複数のAMR調整を考慮できないため、リソースの非効率性がひどくなる。
これらの制約を克服するために,固定充電ステーションを備えたマルチブロック倉庫を対象とした,PPO(Proximal Policy Optimization)に基づくDeep Reinforcement Learning(DRL)フレームワークを提案する。
我々のモデルは、充電ステーションの選択と最適充電時間という2つの重要な決定を動的に学習する。
大規模な数値実験は、提案されたモデルと最先端のDRLおよび従来のヒューリスティックアプローチをベンチマークする。
その結果,PPOフレームワークは最強のベースラインに比べて最大6倍のオーダーコンプリート率を向上し,リチャージ処理に要する時間を大幅に短縮した。
さらに,多様な倉庫構成と確率的到着率にまたがるモデルのロバスト性を検証した。
最後に、学習したDRLポリシーを解釈し、標準ベンチマークよりも優れていることを示す貴重な運用上の洞察を提供する。
関連論文リスト
- COHORT: Hybrid RL for Collaborative Large DNN Inference on Multi-Robot Systems Under Real-Time Constraints [0.769672852567215]
大規模ディープニューラルネットワーク(DNN)は、計算的に要求され、フィールドロボットのようなリソース制約のあるエッジプラットフォームにデプロイすることを困難にしている。
ロボットオペレーティングシステム(ROS)上に構築されたマルチロボットシステムのための協調的DNN推論とタスク実行フレームワークCOHORTを提案する。
実験の結果、COHORTはバッテリ消費を15.4%削減し、GPU使用率を51.67%向上し、フレームレートと期限の制約を2.55倍に満たした。
論文 参考訳(メタデータ) (2026-03-11T05:38:00Z) - A Replicate-and-Quantize Strategy for Plug-and-Play Load Balancing of Sparse Mixture-of-Experts LLMs [64.8510381475827]
SMOE(Sparse Mixture-of-Experts)アーキテクチャは、大規模言語モデルを効率的にスケールするためにますます使われている。
SMoEモデルは専門家間で厳しい負荷不均衡に悩まされることが多く、専門家のごく一部がほとんどのトークンを受け取り、他のモデルは未利用である。
推定中のエキスパートルーティングの体系的解析を行い, (i) 負荷不均衡が持続し, バッチサイズが大きくなる, (ii) 選択頻度が, 専門家の重要度を確実に反映しない, (iii) 専門家の全体負荷と重要性を, キャリブレーションセットを用いて推定できる,という3つの知見を同定する。
論文 参考訳(メタデータ) (2026-02-23T15:11:16Z) - A Curriculum-Based Deep Reinforcement Learning Framework for the Electric Vehicle Routing Problem [0.4666493857924357]
EVRPTW(Electric Vehicle routing problem with Time Window)は、持続可能なロジスティクスにおいて複雑な最適化問題である。
この不安定性を解決するために,カリキュラムベースの深層強化学習(CB-DRL)フレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-21T14:42:33Z) - RISER: Orchestrating Latent Reasoning Skills for Adaptive Activation Steering [62.63376387138257]
本稿では,アクティベーション空間における大規模言語モデル(LLM)推論を適応的に制御するプラグイン・アンド・プレイ介入フレームワークを提案する。
RISERは再利用可能な推論ベクトルのライブラリを構築し、軽量ルータを使用して各入力に対して動的に構成する。
ルーターは、タスクレベルの報酬の下で強化学習を通じて最適化され、緊急かつ構成的な方法で潜在する認知的プリミティブを活性化する。
論文 参考訳(メタデータ) (2026-01-14T08:04:33Z) - STARec: An Efficient Agent Framework for Recommender Systems via Autonomous Deliberate Reasoning [54.28691219536054]
我々は、自律的な熟考的推論機能を備えたレコメンデータシステムを支援する、ゆっくり考えられた拡張エージェントフレームワークSTARecを紹介する。
我々は,先進的推論モデルと嗜好整合型報酬形成から構造化知識の蒸留を組み合わせた2段階のパラダイムであるアンカー強化訓練を開発する。
MovieLens 1MとAmazon CDsベンチマークの実験では、STARecは最先端のベースラインと比較して、大幅なパフォーマンス向上を実現している。
論文 参考訳(メタデータ) (2025-08-26T08:47:58Z) - KAT-V1: Kwai-AutoThink Technical Report [50.84483585850113]
Kwaipilot-AutoThink (KAT) はオープンソースの40B大言語モデルであり、推論集約タスクにおける過大な問題に対処するために開発された。
KATはタスクの複雑さに基づいて推論モードと非推論モードを動的に切り替える。
また、GRPOフレームワークに中間管理を組み込んだ強化学習アルゴリズムであるStep-SRPOを提案する。
論文 参考訳(メタデータ) (2025-07-11T04:07:10Z) - Reinforcement Learning-based Approach for Vehicle-to-Building Charging with Heterogeneous Agents and Long Term Rewards [3.867907469895697]
本稿では,行動マスキングとMILPによる効率的な政策ガイダンスを併用した新しいRLフレームワークを提案する。
当社のアプローチは、ユーザの充電要求を満たすために、継続的なアクションスペースの探索のバランスを取る。
提案手法は,V2Bエネルギー管理の課題を解決するための,最初のスケーラブルで汎用的なアプローチの1つである。
論文 参考訳(メタデータ) (2025-02-24T19:24:41Z) - Learning from Reward-Free Offline Data: A Case for Planning with Latent Dynamics Models [79.2162092822111]
我々は,一連のナビゲーションタスクにおいて,強化学習(RL)と制御に基づく手法を体系的に評価する。
我々は、JEPA(Joint Embedding Predictive Architecture)を使用して、潜在ダイナミクスモデルを使用し、それを計画に使用します。
その結果,モデルベースプランニングではレイアウトが不明瞭になるのに対して,モデルフリーのRLは高品質なデータから恩恵を受けることがわかった。
論文 参考訳(メタデータ) (2025-02-20T18:39:41Z) - Deep Reinforcement Learning for Dynamic Order Picking in Warehouse Operations [0.6116681488656472]
本研究は,現代の倉庫管理において重要な課題である動的順序決定問題に対処する。
本稿では,自律的なピックアップ装置を備えた単ブロック倉庫に適したDeep Reinforcement Learningフレームワークを提案する。
動的にピッカー経路を最適化することにより、注文のスループット時間と未充足注文を著しく削減する。
論文 参考訳(メタデータ) (2024-08-03T03:56:46Z) - Optimized cost function for demand response coordination of multiple EV
charging stations using reinforcement learning [6.37470346908743]
我々は、複数の充電ステーションを同時に調整するマルコフ決定プロセス(MDP)に基づいて、RLに関する以前の研究に基づいて構築する。
我々は、基本的に、学習した制御ポリシーに対して、柔軟性を提供しない充電需要を常に満たすよう強制するコスト関数の改善を提案する。
提案したバッチRLのQ-iteration実装を,実世界のデータを用いて,オリジナル(コスト)のQ-iteration実装と厳密に比較する。
論文 参考訳(メタデータ) (2022-03-03T11:22:27Z) - Guided Constrained Policy Optimization for Dynamic Quadrupedal Robot
Locomotion [78.46388769788405]
我々は,制約付きポリシー最適化(CPPO)の実装に基づくRLフレームワークであるGCPOを紹介する。
誘導制約付きRLは所望の最適値に近い高速収束を実現し,正確な報酬関数チューニングを必要とせず,最適かつ物理的に実現可能なロボット制御動作を実現することを示す。
論文 参考訳(メタデータ) (2020-02-22T10:15:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。