論文の概要: Two-Timescale Synchronization and Migration for Digital Twin Networks: A Multi-Agent Deep Reinforcement Learning Approach
- arxiv url: http://arxiv.org/abs/2409.01092v1
- Date: Mon, 2 Sep 2024 09:20:46 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-06 07:26:52.416867
- Title: Two-Timescale Synchronization and Migration for Digital Twin Networks: A Multi-Agent Deep Reinforcement Learning Approach
- Title(参考訳): ディジタルツインネットワークの2時間同期とマイグレーション:マルチエージェント深部強化学習アプローチ
- Authors: Wenshuai Liu, Yaru Fu, Yongna Guo, Fu Lee Wang, Wen Sun, Yan Zhang,
- Abstract要約: デジタル双生児(DT)は、物理世界のリアルタイム状態を表現するための有望なイネーブラーとして登場した。
MUモビリティはDTマイグレーションをトリガーし、同期障害を引き起こす可能性がある。
本研究では,MUの長期平均エネルギー消費を最小限に抑えるための2時間移動フレームワークを提案する。
- 参考スコア(独自算出の注目度): 18.15025703396928
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Digital twins (DTs) have emerged as a promising enabler for representing the real-time states of physical worlds and realizing self-sustaining systems. In practice, DTs of physical devices, such as mobile users (MUs), are commonly deployed in multi-access edge computing (MEC) networks for the sake of reducing latency. To ensure the accuracy and fidelity of DTs, it is essential for MUs to regularly synchronize their status with their DTs. However, MU mobility introduces significant challenges to DT synchronization. Firstly, MU mobility triggers DT migration which could cause synchronization failures. Secondly, MUs require frequent synchronization with their DTs to ensure DT fidelity. Nonetheless, DT migration among MEC servers, caused by MU mobility, may occur infrequently. Accordingly, we propose a two-timescale DT synchronization and migration framework with reliability consideration by establishing a non-convex stochastic problem to minimize the long-term average energy consumption of MUs. We use Lyapunov theory to convert the reliability constraints and reformulate the new problem as a partially observable Markov decision-making process (POMDP). Furthermore, we develop a heterogeneous agent proximal policy optimization with Beta distribution (Beta-HAPPO) method to solve it. Numerical results show that our proposed Beta-HAPPO method achieves significant improvements in energy savings when compared with other benchmarks.
- Abstract(参考訳): デジタル双生児(DT)は、物理的世界のリアルタイム状態を表現し、自己維持システムを実現するための有望なイネーブラーとして登場した。
実際には、モバイルユーザ(MU)のような物理デバイスのDTは、レイテンシを低減するために、マルチアクセスエッジコンピューティング(MEC)ネットワークに一般的にデプロイされる。
DTの精度と忠実性を確保するためには、MUがDTと定期的にステータスを同期させることが不可欠である。
しかし、MUモビリティはDT同期に重大な課題をもたらす。
まず、MUモビリティはDTマイグレーションをトリガーし、同期障害を引き起こす可能性がある。
次に、MUはDTの忠実性を保証するためにDTと頻繁に同期する必要がある。
それでも、MUモビリティによって引き起こされるMECサーバ間のDTマイグレーションは、頻繁に発生する可能性がある。
そこで本稿では,MUの長期平均エネルギー消費を最小限に抑えるために,非凸確率問題を確立することにより,信頼性を考慮した2段階のDT同期・マイグレーションフレームワークを提案する。
我々はリアプノフ理論を用いて信頼性制約を変換し、新しい問題を部分的に観測可能なマルコフ決定過程(POMDP)として再構成する。
さらに,ベータ分布(Beta-HAPPO)法による不均一なエージェント近似ポリシー最適化手法を開発し,その解法を提案する。
シミュレーションの結果, 提案手法は, 他のベンチマークと比較すると, 省エネ性を大幅に向上することがわかった。
関連論文リスト
- Digital Twin-Assisted Federated Learning with Blockchain in Multi-tier Computing Systems [67.14406100332671]
産業用 4.0 システムでは、リソース制約のあるエッジデバイスが頻繁にデータ通信を行う。
本稿では,デジタルツイン (DT) とフェデレーション付きデジタルツイン (FL) 方式を提案する。
提案手法の有効性を数値解析により検証した。
論文 参考訳(メタデータ) (2024-11-04T17:48:02Z) - Adversarial Schrödinger Bridge Matching [66.39774923893103]
反復マルコフフィッティング(IMF)手順は、マルコフ過程の相互射影と相互射影を交互に交互に行う。
本稿では、プロセスの学習を離散時間でほんの少しの遷移確率の学習に置き換える新しい離散時間IMF(D-IMF)手順を提案する。
D-IMFの手続きは、数百ではなく数世代のステップで、IMFと同じ品質の未完成のドメイン翻訳を提供できることを示す。
論文 参考訳(メタデータ) (2024-05-23T11:29:33Z) - Solving Continual Offline Reinforcement Learning with Decision Transformer [78.59473797783673]
連続的オフライン強化学習(CORL)は、連続的およびオフライン的な強化学習を組み合わせたものである。
Actor-Critic構造とエクスペリエンス・リプレイ(ER)を取り入れた既存の手法は、分散シフト、低効率、知識共有の弱さに悩まされている。
我々は,マルチヘッドDT (MH-DT) とローランク適応DT (LoRA-DT) を導入し,DTの無視問題を緩和する。
論文 参考訳(メタデータ) (2024-01-16T16:28:32Z) - Graph-Aware Contrasting for Multivariate Time-Series Classification [50.84488941336865]
既存のコントラスト学習手法は主に、時間的拡張とコントラスト技術による時間的一貫性を達成することに焦点を当てている。
MTSデータ間の空間的整合性を考慮したグラフ認識コントラストを提案する。
提案手法は,様々なMSS分類タスクにおける最先端性能を実現する。
論文 参考訳(メタデータ) (2023-09-11T02:35:22Z) - Efficient Task Offloading Algorithm for Digital Twin in Edge/Cloud
Computing Environment [14.14935102383516]
デジタルツイン(DT)は、物理オブジェクトとデジタルワールドの間の橋渡しとして、様々な領域に力を与える。
Mobile Cloud Computing (MCC) と Mobile Edge Computing (MEC) は、リアルタイムフィードバックを実現する上で重要な要素の2つになっている。
異種MEC/MCC環境を考慮した新しいDTシステムモデルを提案する。
論文 参考訳(メタデータ) (2023-07-12T03:31:34Z) - DBT-DMAE: An Effective Multivariate Time Series Pre-Train Model under
Missing Data [16.589715330897906]
MTSはデータ不足に悩まされ、下流のタスクが劣化または崩壊する。
本稿では,MTSプレトレインモデルについて述べる。
-DMAE、上記の障害を克服する。
論文 参考訳(メタデータ) (2022-09-16T08:54:02Z) - Edge Continual Learning for Dynamic Digital Twins over Wireless Networks [68.65520952712914]
デジタルツイン(DT)は、現実世界とメタバースの間の重要なリンクを構成する。
本稿では,物理的双生児とそれに対応するサイバー双生児の親和性を正確にモデル化する新しいエッジ連続学習フレームワークを提案する。
提案するフレームワークは,破滅的忘れ込みに対して頑健な,高精度かつ同期的なCTモデルを実現する。
論文 参考訳(メタデータ) (2022-04-10T23:25:37Z) - Generalized Decision Transformer for Offline Hindsight Information
Matching [16.7594941269479]
本稿では、後視情報マッチング(HIM)問題を解くための一般化決定変換器(GDT)を提案する。
特徴関数と反因果アグリゲータの異なる選択が, 将来の異なる統計値に適合する新しいカテゴリーDT (CDT) と双方向DT (BDT) にどのように寄与するかを示す。
論文 参考訳(メタデータ) (2021-11-19T18:56:13Z) - Low-Latency Federated Learning over Wireless Channels with Differential
Privacy [142.5983499872664]
フェデレートラーニング(FL)では、モデルトレーニングはクライアントに分散し、ローカルモデルは中央サーバによって集約される。
本稿では,各クライアントの差分プライバシ(DP)要件だけでなく,全体としてのトレーニング性能に制約された無線チャネル上でのFLトレーニング遅延を最小限に抑えることを目的とする。
論文 参考訳(メタデータ) (2021-06-20T13:51:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。