論文の概要: Search-Aided Joint Agent-Environment Reinforcement Learning for Robust Lifelong Multi-Agent Path Finding with Rotations
- arxiv url: http://arxiv.org/abs/2608.05588v1
- Date: Thu, 06 Aug 2026 04:17:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 17:43:06.698592
- Title: Search-Aided Joint Agent-Environment Reinforcement Learning for Robust Lifelong Multi-Agent Path Finding with Rotations
- Title(参考訳): 回転を考慮したロバスト寿命マルチエージェントパスの探索支援統合エージェント環境強化学習
- Abstract要約: LMAPF (Lifelong Multi-Agent Path Finding) は、エージェントの衝突のない経路を何度も計画する必要がある。
我々は,LMAPF-R2と呼ばれる現実の倉庫システムから派生した,より現実的なLMAPFモデルについて検討する。
これらの課題に対処するために,検索支援共同強化学習(SJRL)を提案する。
- 参考スコア(独自算出の注目度): 30.367499158055594
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Lifelong Multi-Agent Path Finding (LMAPF) requires repeatedly planning collision-free paths for agents that continuously receive new goals upon reaching their current ones. While many learning-based planners have been proposed for LMAPF, most rely on oversimplified kinematic assumptions that may overlook motion constraints critical to real-world performance. In this work, we study a more realistic LMAPF model derived from many real-world automated warehouse systems, termed LMAPF-R2, which incorporates robust safety constraints and in-place rotation constraints. These constraints substantially increase coordination difficulty, particularly in highly constrained spaces. To address these challenges, we propose Search-Aided Joint Reinforcement Learning (SJRL). We first augment neural policies with Causal PIBT, a single-step search-based planner that resolves agents' collisions and propagates their intentions. We then introduce a unified RL formulation that jointly optimizes agent and environment policies, where the environment policy learns graph edge costs to provide global movement guidance via backward Dijkstra search. Experiments demonstrate that SJRL achieves significant improvements over the strong search-based planner, Causal-PIBT, across multiple high-density maps. We further validate SJRL in a challenging mixed-reality warehouse environment with 8 physical robots and 248 virtual robots.
- Abstract(参考訳): LMAPF (Lifelong Multi-Agent Path Finding) は、現在に至る際に常に新たな目標を達成するエージェントに対して、衝突のない経路を何度も計画する必要がある。
多くの学習ベースのプランナーがLMAPFのために提案されているが、ほとんどの場合、現実世界のパフォーマンスに重要な動作制約を見落としてしまうような、過度に単純化されたキネマティックな仮定に依存している。
本研究では,より現実的なLMAPFモデル,LMAPF-R2について検討する。
これらの制約は、特に高度に制約された空間において、コーディネーションの困難を著しく増大させる。
これらの課題に対処するため,検索支援共同強化学習(SJRL)を提案する。
最初に、エージェントの衝突を解消し、その意図を伝播する単一ステップの検索ベースのプランナーであるCausal PIBTで、神経ポリシーを強化する。
次に、エージェントと環境ポリシーを協調的に最適化する統一的なRL定式化を導入し、環境政策はグラフエッジコストを学習し、後方ディクストラ探索によるグローバルな移動誘導を提供する。
実験により、SJRLは複数の高密度マップにまたがって、強力な検索ベースプランナーであるCausal-PIBTよりも大幅に改善されていることが示された。
さらに,8つの物理ロボットと248個の仮想ロボットを用いた複合現実倉庫環境におけるSJRLの検証を行った。
関連論文リスト
- Semantic Risk-Aware Heuristic Planning for Robotic Navigation in Dynamic Environments: An LLM-Inspired Approach [0.0]
大言語モデル(LLM)の推論原理を古典的なロボット経路計画に統合することは、急速に発展する研究の方向性を表している。
本研究では,LLMにインスパイアされたコスト関数を符号化したSRAH(Semantic Risk-Aware Heuristic)プランナを提案する。
この結果から,軽量でLCMにインスパイアされたプランナーでも,自律型ロボットナビゲーションの安全性とロバスト性を高めることが示唆された。
論文 参考訳(メタデータ) (2026-05-04T17:38:12Z) - Learning-guided Prioritized Planning for Lifelong Multi-Agent Path Finding in Warehouse Automation [9.791100984803219]
本稿では,RLと生涯MAPFの検索ベースプランニングを統合した最初のフレームワークであるRL-RH-PPについて紹介する。
RL-RH-PPは、複雑な時空間相互作用を委譲して強化学習を行いながら、生涯計画のシーケンシャルな意思決定性を利用する。
解析の結果,RL-RH-PPは密閉剤を積極的に優先し,密閉剤を戦略的にリダイレクトすることが明らかとなった。
論文 参考訳(メタデータ) (2026-03-25T01:46:35Z) - Multi-Agent DRL for V2X Resource Allocation: Disentangling Challenges and Benchmarking Solutions [51.22818149833102]
マルチエージェント強化学習(MARL)は、車間通信(C-V2X)ネットワークにおける無線リソース割り当ての有望なアプローチとして登場した。
しかし、MARLに固有の多面的課題はしばしば絡み合っており、車載環境における個々の影響を理解することは困難である。
我々は, C-V2X RRA を, 複雑さが徐々に増大する多エージェント干渉ゲーム列として定式化し, このギャップを埋める。
論文 参考訳(メタデータ) (2026-02-18T14:46:56Z) - Hybrid Motion Planning with Deep Reinforcement Learning for Mobile Robot Navigation [0.0]
深部強化学習(HMP-DRL)によるハイブリッド運動計画
状態空間と報酬関数の両方に符号化されたチェックポイントのシーケンスを通じて、局所DRLポリシーに統合されたパスを生成するグラフベースのグローバルプランナを提案する。
社会的コンプライアンスを確保するため、地域プランナーは、周辺エージェントのセマンティックタイプに基づいて、安全マージンと罰則を動的に調整するエンティティ対応報酬構造を採用する。
論文 参考訳(メタデータ) (2025-12-31T05:58:57Z) - On GRPO Collapse in Search-R1: The Lazy Likelihood-Displacement Death Spiral [59.14787085809595]
この障害を引き起こす中核的なメカニズムとしてLazy Likelihood Displacement(LLD)を同定する。
LDDは早期に出現し、自己強化性LDDデススパイラル(LDD Death Spiral)を引き起こす。
本稿では,GRPO のための軽量な確率保存正則化 LLDS を提案する。
論文 参考訳(メタデータ) (2025-12-03T19:41:15Z) - Are LLMs The Way Forward? A Case Study on LLM-Guided Reinforcement Learning for Decentralized Autonomous Driving [9.255259913388096]
小規模でローカルに展開されたLarge Language Models (LLMs) は、直接制御ではなく報酬形成を通じて自動運転を支援することができる。
RLのみ, LLMのみ, ハイブリッドアプローチの比較を行った。
以上の結果から,RLのみのエージェントは適度な効率で適度な成功率(73-89%)を達成でき,LSMのみのエージェントは高い成功率(最大94%)を達成できた。
論文 参考訳(メタデータ) (2025-11-16T19:31:42Z) - AgentGym-RL: Training LLM Agents for Long-Horizon Decision Making through Multi-Turn Reinforcement Learning [129.44038804430542]
本稿では,マルチターン対話型意思決定のためのLLMエージェントをRLで学習する新しいフレームワークであるAgentGym-RLを紹介する。
本研究では,探索-探索バランスと安定したRL最適化のためのトレーニング手法であるScalingInter-RLを提案する。
当社のエージェントは、さまざまな環境にまたがる27のタスクで、商用モデルにマッチするか、超えています。
論文 参考訳(メタデータ) (2025-09-10T16:46:11Z) - RL-PLUS: Countering Capability Boundary Collapse of LLMs in Reinforcement Learning with Hybrid-policy Optimization [111.1749164063616]
大規模言語モデル(LLM)のための新しいハイブリッド政治最適化手法RL-PLUSを提案する。
RL-PLUSは、外部データと内部エクスプロイトを相乗化して、より強力な推論能力を達成し、ベースモデルのバウンダリを超える。
提案手法の優位性と一般化性を示すため,理論解析と広範な実験を行った。
論文 参考訳(メタデータ) (2025-07-31T23:55:29Z) - Scaling Autonomous Agents via Automatic Reward Modeling And Planning [52.39395405893965]
大規模言語モデル(LLM)は、様々なタスクにまたがる顕著な機能を示している。
しかし、彼らは多段階の意思決定と環境フィードバックを必要とする問題に苦戦している。
人間のアノテーションを使わずに環境から報酬モデルを自動的に学習できるフレームワークを提案する。
論文 参考訳(メタデータ) (2025-02-17T18:49:25Z) - TeLL-Drive: Enhancing Autonomous Driving with Teacher LLM-Guided Deep Reinforcement Learning [61.33599727106222]
TeLL-Driveは、Teacher LLMを統合して、注意に基づく学生DRLポリシーをガイドするハイブリッドフレームワークである。
自己維持機構はDRLエージェントの探索とこれらの戦略を融合させ、政策収束を加速し、堅牢性を高める。
論文 参考訳(メタデータ) (2025-02-03T14:22:03Z) - Beyond Human Preferences: Exploring Reinforcement Learning Trajectory Evaluation and Improvement through LLMs [12.572869123617783]
強化学習(Reinforcement Learning, RL)は、複雑なゲームタスクにおけるポリシートラジェクトリを評価する上での課題である。
PbRLは、人間の嗜好を重要な報酬信号として活用する先駆的なフレームワークである。
LLM4PG という LLM 対応自動選好生成フレームワークを提案する。
論文 参考訳(メタデータ) (2024-06-28T04:21:24Z) - LLM-A*: Large Language Model Enhanced Incremental Heuristic Search on Path Planning [91.95362946266577]
経路計画はロボット工学と自律航法における基本的な科学的問題である。
A*やその変種のような伝統的なアルゴリズムは、パスの妥当性を保証することができるが、状態空間が大きくなるにつれて、計算とメモリの非効率が著しく低下する。
本稿では, A* の正確なパスフィニング能力と LLM のグローバルな推論能力とを相乗的に組み合わせた LLM ベースの経路計画法を提案する。
このハイブリッドアプローチは、特に大規模シナリオにおいて、パス妥当性の完全性を維持しながら、時間と空間の複雑さの観点からパスフィニング効率を向上させることを目的としている。
論文 参考訳(メタデータ) (2024-06-20T01:24:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。