論文の概要: Multi-AUV Ad-hoc network-based Target Tracking: A Value Gradient Guidance Multi-Agent Diffusion Reinforcement Learning Approach
- arxiv url: http://arxiv.org/abs/2608.12436v1
- Date: Wed, 12 Aug 2026 14:15:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.285308
- Title: Multi-AUV Ad-hoc network-based Target Tracking: A Value Gradient Guidance Multi-Agent Diffusion Reinforcement Learning Approach
- Title(参考訳): マルチAUVアドホックネットワークに基づくターゲット追跡:値勾配誘導多エージェント拡散強化学習アプローチ
- Abstract要約: マルチAUVのアドホックネットワークに基づく目標追跡には、ネットワーク化された自律型水中車両(AUV)が協調して目標を追跡する必要がある。
本稿では,値勾配誘導型マルチエージェント拡散RLアルゴリズムであるVGG-MADiffRLと,拡散型階層型制御アーキテクチャであるMDCAを提案する。
VGG-MADiffRLは、協調的なトラッキングシナリオにおいて、より高速な収束、より高いトラッキング精度、よりスムーズなトレーニングダイナミクスを実現する。
- 参考スコア(独自算出の注目度): 21.830851526984418
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-AUV ad-hoc network-based target tracking requires networked autonomous underwater vehicles (AUVs) to cooperatively track maneuvering targets under constrained acoustic communication, dynamic topology, and uncertain ocean disturbances. Although multi-agent reinforcement learning (MARL) enables decentralized coordination through centralized training, existing methods suffer from high-dimensional joint state-action modeling, noise-sensitive policy generation, leading to unstable training and degraded tracking. To address these issues, we propose VGG-MADiffRL, a value-gradient-guided multi-agent diffusion RL algorithm, and MDCA, a diffusion?based hierarchical control architecture. Leveraging underwater mission characteristics, we model sonar detection mechanisms and ocean current disturbances, formulating cooperative tracking for multi-AUV ad-hoc networks as an MDP. The proposed MDCA constitutes a three-tier closed-loop control framework: a global intelligent control layer, a local online training layer, and a physical action execution layer. This structure enables synergistic optimization across task allocation, local decision processes, and execution feedback. Within MDCA, the local online training layer is the policy learning framework; VGG-MADiffRL builds on diffusion policies and incorporates value gradients to guide action generation in the reverse denoising process, steering the generated actions towards higher expected returns. It employs twin value networks with joint optimization and soft target updates to mitigate overestimation and training oscillations, promoting more stable convergence. Experimental results show that VGG-MADiffRL consistently achieves faster convergence, higher tracking accuracy, and smoother training dynamics in cooperative tracking scenarios, validating its effectiveness and practical engineering value in dynamic underwater settings.
- Abstract(参考訳): マルチAUVのアドホックネットワークに基づく標的追跡は、制約された音響通信、動的トポロジー、不確実な海洋障害の下での運動目標を協調的に追跡するために、ネットワーク化された自律水中車両(AUV)を必要とする。
マルチエージェント強化学習(MARL)は集中型トレーニングによる分散協調を可能にするが,既存の手法では高次元のジョイント・ステート・アクション・モデリング,ノイズに敏感なポリシー生成に悩まされ,不安定なトレーニングと劣化追跡に繋がる。
これらの問題に対処するため、VGG-MADiffRL、値勾配誘導多重エージェント拡散RLアルゴリズム、MDCAを提案する。
階層型制御アーキテクチャをベースとしています
水中のミッション特性を活用し, ソナー検出機構と海流障害をモデル化し, マルチAUVアドホックネットワークの協調追跡をMDPとして定式化した。
提案するMDCAは,グローバルインテリジェントコントロール層,ローカルオンライントレーニング層,物理アクション実行層という,3層クローズドループ制御フレームワークを構成する。
この構造は、タスク割り当て、局所的な決定プロセス、実行フィードバックを横断する相乗的最適化を可能にする。
VGG-MADiffRLは拡散ポリシーを基盤とし、値勾配を組み、逆復調過程におけるアクション生成を誘導し、生成されたアクションをより高い期待されたリターンに向けて操る。
結合最適化とソフトターゲット更新を備えたツインバリューネットワークを使用し、過大評価とトレーニング振動を緩和し、より安定した収束を促進する。
実験結果から,VGG-MADiffRLはより高速な収束,高追尾精度,協調追尾シナリオにおけるスムーズなトレーニングダイナミックスを実現し,動的水中環境におけるその有効性と実用的工学的価値を検証した。
関連論文リスト
- MA-HEAD-Net: Adaptive Rule-Guided Multi-Agent DRL for AoI Minimization in UAV-Assisted Emergency Networks [71.01350912967922]
事故後のシナリオでは、無人航空機(UAV)が緊急通信ネットワークを確立する上で重要である。
本稿では,UAV支援緊急通信における情報量(AoI)の最小化について検討する。
適応型ルール誘導多エージェント深層強化学習フレームワークMA-HEAD-Netを開発した。
論文 参考訳(メタデータ) (2026-08-02T10:05:50Z) - High-Precision Formation Control for Heterogeneous Multi-Robot Systems via Hierarchical Hybrid Physics-Informed Deep Reinforcement Learning [10.865402396881416]
本稿では,階層型ハイブリッド物理インフォームド深部強化学習(HHy-PIDRL)フレームワークを提案する。
異種多ロボットシステムのための高精度で応答性の高い生成制御を実現することを目的としている。
実験の結果, 上位階層の自律航法政策網とHM-DRLに基づく構成制御網の成功率は100%に達することがわかった。
論文 参考訳(メタデータ) (2026-07-03T17:38:17Z) - Multi-AUV Cooperative Target Tracking Based on Supervised Diffusion-Aided Multi-Agent Reinforcement Learning [19.584329065489893]
本稿では,グローバルトレーニングスケジューリング,マルチエージェント調整,ローカル意思決定,リアルタイム実行の4層からなる階層型MARLアーキテクチャを提案する。
1) 分離された経験プールによる非定常性軽減のための構造化経験リプレイによる二重決定アーキテクチャ,2) 拡散モデルの逆復調過程を誘導して収束を加速する高忠実度トレーニングサンプルを生成する教師付き学習機構,3) 行動クローン損失を組み込んだ外乱ロバストなポリシー学習により,高品質なリプレイ動作を導出し,不要なネットワーク更新を実現すること,の3つの革新を特徴とする。
論文 参考訳(メタデータ) (2026-03-31T08:32:32Z) - Multi-AUV Ad-hoc Networks-Based Multi-Target Tracking Based on Scene-Adaptive Embodied Intelligence [17.13365683218245]
本稿では,マルチAUVアドホックネットワークのためのシーン適応型エンボディインテリジェンス(EI)アーキテクチャを提案する。
EIは、知覚、意思決定、身体的実行を統一された認知ループに統合することで、AUVを具現化された実体として再考する。
論文 参考訳(メタデータ) (2026-03-28T08:48:22Z) - Multi-Agent Collaborative Intrusion Detection for Low-Altitude Economy IoT: An LLM-Enhanced Agentic AI Framework [60.72591149679355]
低高度経済の急速な拡大により、インターネット・オブ・モノ(LAE-IoT)ネットワークは前例のないセキュリティ上の課題を生んだ。
従来の侵入検知システムは、空中IoT環境のユニークな特徴に対処できない。
LAE-IoTネットワークにおける侵入検出を強化するための大規模言語モデル(LLM)対応エージェントAIフレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-25T12:47:25Z) - Meta Hierarchical Reinforcement Learning for Scalable Resource Management in O-RAN [9.290879387995401]
本稿では,モデル非依存型メタラーニング(MAML)に触発された適応型メタ階層型強化学習フレームワークを提案する。
このフレームワークは階層的な制御とメタラーニングを統合し、グローバルとローカルの両方の適応を可能にする。
ネットワークスケールの増加に伴い、適応と一貫性のある公平性、レイテンシ、スループットのパフォーマンスが最大40%向上する。
論文 参考訳(メタデータ) (2025-12-08T08:16:27Z) - Power Grid Control with Graph-Based Distributed Reinforcement Learning [60.49805771047161]
この作業は、リアルタイムでスケーラブルなグリッド管理のためのグラフベースの分散強化学習フレームワークを前進させる。
グラフニューラルネットワーク(GNN)を使用して、ネットワークのトポロジ情報を単一の低レベルエージェントの観測内にエンコードする。
Grid2Opシミュレーション環境での実験は、このアプローチの有効性を示している。
論文 参考訳(メタデータ) (2025-09-02T22:17:25Z) - LLM Meets the Sky: Heuristic Multi-Agent Reinforcement Learning for Secure Heterogeneous UAV Networks [57.27815890269697]
この研究は、エネルギー制約下での不均一なUAVネットワーク(HetUAVN)における機密率の最大化に焦点を当てている。
本稿では,Large Language Model (LLM) を用いたマルチエージェント学習手法を提案する。
その結果,本手法は機密性やエネルギー効率において,既存のベースラインよりも優れていた。
論文 参考訳(メタデータ) (2025-07-23T04:22:57Z) - Advanced deep-reinforcement-learning methods for flow control: group-invariant and positional-encoding networks improve learning speed and quality [0.7421845364041001]
本研究は,流路制御のための深部強化学習法(DRL)の進歩である。
グループ不変ネットワークと位置エンコーディングをDRLアーキテクチャに統合することに注力する。
提案手法はRayleigh-B'enard対流のケーススタディを用いて検証した。
論文 参考訳(メタデータ) (2024-07-25T07:24:41Z) - MADiff: Offline Multi-agent Learning with Diffusion Models [79.18130544233794]
MADiffは拡散型マルチエージェント学習フレームワークである。
分散ポリシと集中型コントローラの両方として機能する。
実験の結果,MADiffは様々なマルチエージェント学習タスクにおいて,ベースラインアルゴリズムよりも優れていた。
論文 参考訳(メタデータ) (2023-05-27T02:14:09Z) - Optimization for Master-UAV-powered Auxiliary-Aerial-IRS-assisted IoT
Networks: An Option-based Multi-agent Hierarchical Deep Reinforcement
Learning Approach [56.84948632954274]
本稿では,無人航空機(MUAV)搭載のIoT(Internet of Things)ネットワークについて検討する。
本稿では、インテリジェント反射面(IRS)を備えた充電可能な補助UAV(AUAV)を用いて、MUAVからの通信信号を強化することを提案する。
提案モデルでは,IoTネットワークの蓄積スループットを最大化するために,これらのエネルギー制限されたUAVの最適協調戦略について検討する。
論文 参考訳(メタデータ) (2021-12-20T15:45:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。