論文の概要: Goal-Oriented Bundle Management and Flow Control for Deep-Space Communications via Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2610.13923v1
- Date: Fri, 09 Oct 2026 17:53:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.718391
- Title: Goal-Oriented Bundle Management and Flow Control for Deep-Space Communications via Reinforcement Learning
- Title(参考訳): 強化学習による深層空間通信のための目標指向バンドル管理とフロー制御
- Abstract要約: 本稿では,接触型ディープスペースネットワークにおけるリレー側バンドルとフロー管理のためのクローズドループモデリングおよび学習フレームワークを提案する。
月と火星のアップデートは、共有バッファリレーを通じて地球に転送される。
我々は、制約付きセミマルコフ決定過程(CSMDP)としてリレー制御を定式化し、マスク付きラグランジアン近似ポリシー最適化(PPO)を用いてそれを解く。
- 参考スコア(独自算出の注目度): 1.189955933770711
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep-space communications operate under intermittent connectivity, long propagation delays, and relay storage constraints. In such networks, the Bundle Protocol enables store-carry-forward communication, requiring relay nodes to manage limited storage and scarce contact opportunities. Relay-side scheduling and dropping decisions are inherently goal-oriented: transmission resources should be allocated to bundles most valuable to downstream mission objectives. Conventional schedulers, such as FIFO, do not explicitly optimize task utility and may provide unfair service across heterogeneous planetary sources. This paper presents a closed-loop modeling and learning framework for relay-side bundle and flow management in a contact-driven deep-space network, where lunar and Martian updates are forwarded through a shared-buffer relay to Earth. We quantify destination-side information freshness using excess age $Δ_i^e(t)=[Δ_i(t)-d_i(t)]^+$, where $Δ_i(t)$ denotes the Age of Information of source $i$ and $d_i(t)$ is a source-dependent delay baseline. Based on this metric, we define a goal-oriented loss that supports source-dependent nonlinear penalties, allowing prioritization according to mission relevance. We formulate relay control as a constrained semi-Markov decision process (CSMDP) and solve it using masked Lagrangian Proximal Policy Optimization (PPO). Feasibility-aware action masking restricts transmissions to bundles that can complete within the remaining contact window. DTNSim simulations indicate improved age-based utility and inter-flow fairness compared with baseline schedulers. The proposed framework jointly optimizes relay-side bundle scheduling, dropping, and flow control under contact-driven dynamics with explicit fairness considerations across heterogeneous sources.
- Abstract(参考訳): ディープスペース通信は、断続接続、長い伝搬遅延、リレーストレージ制約の下で動作する。
このようなネットワークでは、Bundle Protocolはストアとフォワードの通信を可能にし、リレーノードに限られたストレージの管理と接触機会の不足を要求する。
送信リソースは、下流のミッション目標に最も価値のあるバンドルに割り当てられるべきです。
FIFOのような従来のスケジューラは、タスクユーティリティを明示的に最適化せず、異質な惑星源間で不公平なサービスを提供する可能性がある。
本稿では,月と火星の更新を共有バッファリレーを介して地球に転送する,接触駆動型深宇宙ネットワークにおけるリレー側バンドルとフロー管理のためのクローズドループモデリングおよび学習フレームワークを提案する。
余剰年齢$Δ_i^e(t)=[Δ_i(t)-d_i(t)]^+$, ここで$Δ_i(t)$は情報源の情報時代を表し、$d_i(t)$はソース依存遅延ベースラインである。
この指標に基づいて、ミッション関連性に応じて優先順位付けが可能な、ソース依存の非線形ペナルティをサポートする目標指向の損失を定義する。
我々は,制約付きセミマルコフ決定過程(CSMDP)としてリレー制御を定式化し,マスク付きラグランジアン近似ポリシー最適化(PPO)を用いてそれを解く。
ファシビリティ対応のアクションマスキングは、残りのコンタクトウィンドウ内で完了可能なバンドルへの送信を制限する。
DTNSimシミュレーションは, ベースラインスケジューラと比較して, 年齢ベースの有用性とフロー間フェアネスが向上したことを示している。
提案するフレームワークは, 異種ソース間の明瞭な公平性を考慮した接触動力学的条件下でのリレー側バンドルスケジューリング, ドロップ, フロー制御を共同で最適化する。
関連論文リスト
- MA-HEAD-Net: Adaptive Rule-Guided Multi-Agent DRL for AoI Minimization in UAV-Assisted Emergency Networks [71.01350912967922]
事故後のシナリオでは、無人航空機(UAV)が緊急通信ネットワークを確立する上で重要である。
本稿では,UAV支援緊急通信における情報量(AoI)の最小化について検討する。
適応型ルール誘導多エージェント深層強化学習フレームワークMA-HEAD-Netを開発した。
論文 参考訳(メタデータ) (2026-08-02T10:05:50Z) - Prioritizing Gradient Sign Over Modulus: An Importance-Aware Framework for Wireless Federated Learning [72.18619424901249]
Sign-Prioritized FL (SP-FL) は、不均一なリソース割り当てを通じて重要な勾配情報の送信を優先するフレームワークである。
本稿では,Newton-Raphson 法と逐次凸近似 (SCA) を用いて,この問題を解決するための交互最適化アルゴリズムを提案する。
シミュレーションの結果,特に資源制約シナリオにおけるSP-FLの優位性が確認された。
論文 参考訳(メタデータ) (2026-03-11T13:41:02Z) - Latency-aware Human-in-the-Loop Reinforcement Learning for Semantic Communications [2.9668257052955176]
本稿では,人間のフィードバック,セマンティック・ユーティリティ,遅延制御を組み込んだ時間制約付き人間間強化学習フレームワークを提案する。
人間のフィードバックによる意味適応をマルコフ決定過程として定式化する。
我々は,T-HITL-RLがユーザ毎のタイミング制約を一貫して満たし,ベースラインスケジューラの報酬を上回り,リソース消費を安定させることを示す。
論文 参考訳(メタデータ) (2026-02-17T15:07:41Z) - QoS-Aware Dynamic CU Selection in O-RAN with Graph-Based Reinforcement Learning [1.0732935873226022]
Open Radio Access Network (O RAN)は、従来のRANを相互運用可能なコンポーネントに分解し、柔軟なリソース割り当て、省エネ、アジャイルアーキテクチャ設計を可能にする。
固定写像を緩和し, 動的サービス機能チェーン (SFC) をオンザフライOCU選択で提供することにより, 制限に対処する。
我々はこの問題をマルコフ決定プロセスとして定式化し、GRLDyP、すなわちグラフニューラルネットワーク(GNN)による深部強化学習(DRL)を用いて解決する。
提案エージェントは,入ってくる各サービスフローの経路とO-CU位置を共同で選択し,ネットワークエネルギーを最小化する。
論文 参考訳(メタデータ) (2025-11-21T16:10:28Z) - PASS-Enhanced MEC: Joint Optimization of Task Offloading and Uplink PASS Beamforming [67.78883135636657]
ピンチアンテナシステム (PASS) によるモバイルエッジコンピューティング (MEC) アーキテクチャについて検討した。
PASSは、重要な経路損失と潜在的な信号遮断を効果的に軽減しつつ、短距離ライン・オブ・ライト(LoS)リンクを確立する。
ネットワーク遅延最小化問題を定式化し、アップリンクPASSビームフォーミングとタスクオフロードを共同で最適化する。
論文 参考訳(メタデータ) (2025-10-27T03:04:46Z) - Distributed Link Sparsification for Scalable Scheduling Using Graph Neural Networks (Journal Version) [50.894272363373126]
密接な接続を特徴とする無線ネットワークでは、分散リンクスケジューリングアルゴリズムによって発生する重要な信号のオーバーヘッドは、混雑、エネルギー消費、無線フットプリント拡張といった問題を悪化させる可能性がある。
ネットワーク容量を維持しながら遅延耐性トラフィックのスケジューリングオーバーヘッドを低減するために,グラフニューラルネットワーク(GNN)を用いた分散リンクスカラー化方式を提案する。
GNNモジュールは、トラフィック統計とネットワークトポロジに基づいて、個々のリンクに対する競合しきい値を調整するように訓練されており、成功しそうもない場合には、リンクがスケジュール競合から撤退することを可能にする。
論文 参考訳(メタデータ) (2025-09-05T18:59:14Z) - Beamforming and Resource Allocation for Delay Minimization in RIS-Assisted OFDM Systems [38.71413228444903]
本稿では、ダウンリンク再構成可能なインテリジェントサーフェス(RIS)支援OFDMシステムにおけるビームフォーミングと資源配分の問題について検討する。
混合作用空間を効果的に処理し, 状態空間次元を低減するために, ハイブリッド深部強化学習(DRL)手法を提案する。
提案アルゴリズムは, 平均遅延を著しく低減し, 資源配分効率を向上し, システムの堅牢性と公平性を向上する。
論文 参考訳(メタデータ) (2025-06-04T05:33:33Z) - A Distributed Neural Linear Thompson Sampling Framework to Achieve URLLC
in Industrial IoT [16.167107624956294]
産業用IoT(Industrial Internet of Things)ネットワークは、重要なプロセスをサポートするために、ウルトラ信頼性の低い低レイテンシ通信(URLLC)を提供する。
無線リソースを割り当てるための標準プロトコルは、特にアップリンク通信において、レイテンシと信頼性のトレードオフを最適化しない可能性がある。
論文 参考訳(メタデータ) (2023-11-21T12:22:04Z) - Learning Resilient Radio Resource Management Policies with Graph Neural
Networks [124.89036526192268]
我々は、ユーザ当たりの最小容量制約でレジリエントな無線リソース管理問題を定式化する。
有限個のパラメータ集合を用いてユーザ選択と電力制御ポリシーをパラメータ化できることを示す。
このような適応により,提案手法は平均レートと5番目のパーセンタイルレートとの良好なトレードオフを実現する。
論文 参考訳(メタデータ) (2022-03-07T19:40:39Z) - Deep Reinforcement Learning for Wireless Scheduling in Distributed Networked Control [37.10638636086814]
完全分散無線制御システム(WNCS)の周波数チャネル数に制限のある結合アップリンクとダウンリンクのスケジューリング問題を考える。
深層強化学習(DRL)に基づくフレームワークを開発した。
DRLにおける大きなアクション空間の課題に対処するために,新しいアクション空間削減法とアクション埋め込み法を提案する。
論文 参考訳(メタデータ) (2021-09-26T11:27:12Z) - Deep Reinforcement Learning for Resource Constrained Multiclass
Scheduling in Wireless Networks [0.0]
セットアップでは、ランダムに到着するサービス要求に対応するために、利用可能な限られた帯域幅のリソースを割り当てます。
本稿では,Deep Setsと組み合わせた分布型Deep Deterministic Policy Gradient (DDPG)アルゴリズムを提案する。
提案アルゴリズムは, 合成データと実データの両方で検証し, 従来手法に対する一貫した利得を示す。
論文 参考訳(メタデータ) (2020-11-27T09:49:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。