論文の概要: A Reinforcement Learning Framework for Application-Specific TCP Congestion-Control
- arxiv url: http://arxiv.org/abs/2505.07042v1
- Date: Sun, 11 May 2025 16:27:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-13 20:21:49.177966
- Title: A Reinforcement Learning Framework for Application-Specific TCP Congestion-Control
- Title(参考訳): アプリケーション固有のTCP混雑制御のための強化学習フレームワーク
- Authors: Jinming Xing, Muhammad Shahzad,
- Abstract要約: Congestion Control (CC)モジュールはTransmission Control Protocol (TCP)において重要な役割を果たす。
ネットワーク条件の変化に適応するために、学習に基づくCCアプローチがいくつか提案されている。
我々は,任意の目的を指定可能な深層強化学習(DRL)ベースのCCフレームワーク,すなわちASCを提案する。
- 参考スコア(独自算出の注目度): 2.4240014793575138
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Congestion Control (CC) module plays a critical role in the Transmission Control Protocol (TCP), ensuring the stability and efficiency of network data transmission. The CC approaches that are commonly used these days employ heuristics-based rules to adjust the sending rate. Due to their heuristics-based nature, these approaches are not only unable to adapt to changing network conditions but are also agnostic to the diverse requirements that different applications often have. Recently, several learning-based CC approaches have been proposed to adapt to changing network conditions. Unfortunately, they are not designed to take application requirements into account. Prior heuristics-based as well as learning-based CC approaches focus on achieving a singular objective, which is often to maximize throughput, even though a lot of applications care more about latency, packet losses, jitter, and different combinations of various network metrics. Motivated by this, we propose a Deep Reinforcement Learning (DRL) based CC framework, namely ASC, which allows any application to specify any arbitrary objectives that the network traffic of that application should achieve and is able to swiftly adapt to the changes in the objectives of the applications as well as to the changes in the network conditions. Our ASC framework further employs a client-server architecture that serves two purposes: 1) it makes ASC highly scalable in terms of the arrival and departure of TCP connections, and 2) it makes ASC very lightweight for the nodes maintaining the TCP connections. We implemented and extensively evaluated ASC in a variety of settings. Our results show that it can not only achieve various objectives but also outperforms prior approaches even in the specific objectives that those approaches were designed to achieve.
- Abstract(参考訳): Congestion Control (CC)モジュールは、TCP(Transmission Control Protocol)において重要な役割を担い、ネットワークデータ転送の安定性と効率を確保する。
近年一般的に使われているCCアプローチでは、送信率を調整するためにヒューリスティックスに基づくルールが採用されている。
ヒューリスティックスに基づく性質のため、これらのアプローチはネットワーク条件の変化に適応できないだけでなく、異なるアプリケーションがしばしば持つ多様な要件にも依存しない。
近年,ネットワーク条件の変化に適応する学習型CC手法がいくつか提案されている。
残念ながら、それらはアプリケーション要件を考慮に入れないように設計されています。
従来のヒューリスティックスと学習ベースのCCアプローチは、レイテンシ、パケット損失、ジッタ、さまざまなネットワークメトリクスの組み合わせを気にするアプリケーションが多いにも関わらず、スループットを最大化する、特定の目的を達成することに重点を置いている。
これにより,アプリケーションのネットワークトラフィックが達成すべき任意の目的を任意のアプリケーションで指定し,アプリケーションの目的やネットワーク条件の変化に迅速に適応できる,深層強化学習(DRL)ベースのCCフレームワーク,すなわちASCを提案する。
私たちのASCフレームワークはさらに2つの目的を果たすクライアントサーバアーキテクチャを採用しています。
1) ASCをTCP接続の着信・発着という点で高度にスケーラブルにする。
2) ASCはTCP接続を維持するノードにとって非常に軽量である。
各種設定でASCを実装し,広範囲に評価した。
提案手法は, 様々な目的を達成できるだけでなく, それらが達成するために設計された特定の目的においても, 先行のアプローチよりも優れることを示す。
関連論文リスト
- Benchmarking Dynamic SLO Compliance in Distributed Computing Continuum Systems [9.820223170841219]
大規模アーキテクチャにおけるサービスレベルオブジェクト(SLO)は、その異種性やさまざまなサービス要件のために困難である。
神経科学の新しい手法であるActive Inferenceのベンチマークを、3つの確立された強化学習アルゴリズムに対して提示する。
アクティブ推論はDCCSにおけるSLOコンプライアンスを保証するための有望なアプローチであり、低メモリ使用率、安定したCPU利用、高速収束を提供する。
論文 参考訳(メタデータ) (2025-03-05T08:56:26Z) - ReinWiFi: A Reinforcement-Learning-Based Framework for the Application-Layer QoS Optimization of WiFi Networks [6.566362478263619]
本稿では,無線ローカルエリアネットワーク(WLAN)のアプリケーション層品質を未知の干渉により最適化するために,強化学習に基づくスケジューリングフレームワークを提案する。
従来のスケジューリングパラメータと観測値から現在のスケジューリングアクションにマッピングするために、新しいQ-networkを訓練する。
論文 参考訳(メタデータ) (2024-05-06T14:44:06Z) - GraphCC: A Practical Graph Learning-based Approach to Congestion Control
in Datacenters [6.47712691414707]
データセンターネットワーク(DCN)におけるトラフィックの最適化において,渋滞制御(CC)が基本的な役割を担っている
本稿では,ネットワーク内CC最適化のための新しい機械学習ベースのフレームワークであるGraphCCを提案する。
論文 参考訳(メタデータ) (2023-08-09T12:04:41Z) - Learning to Sail Dynamic Networks: The MARLIN Reinforcement Learning
Framework for Congestion Control in Tactical Environments [53.08686495706487]
本稿では, 正確な並列化可能なエミュレーション環境を利用して, 戦術ネットワークの環境を再現するRLフレームワークを提案する。
衛星通信(SATCOM)とUHFワイドバンド(UHF)の無線リンク間のボトルネックリンク遷移を再現した条件下で、MARLINエージェントを訓練することにより、我々のRL学習フレームワークを評価する。
論文 参考訳(メタデータ) (2023-06-27T16:15:15Z) - Generalized Few-Shot Continual Learning with Contrastive Mixture of
Adapters [59.82088750033897]
我々は,クラスおよびドメインインクリメンタルな状況を含む汎用FSCL (GFSCL) プロトコルを構築した。
一般的な連続学習手法は、目に見えない領域に一般化能力が乏しいことが判明した。
このようにして、視覚変換器(ViT)に基づくリハーサルフリーフレームワークであるContrastive Mixture of Adapters(CMoA)を提案する。
論文 参考訳(メタデータ) (2023-02-12T15:18:14Z) - MARLIN: Soft Actor-Critic based Reinforcement Learning for Congestion
Control in Real Networks [63.24965775030673]
そこで本研究では,汎用的な渋滞制御(CC)アルゴリズムを設計するための新しい強化学習(RL)手法を提案する。
我々の解であるMARLINは、Soft Actor-Criticアルゴリズムを用いてエントロピーとリターンの両方を最大化する。
我々は,MARLINを実ネットワーク上で訓練し,実ミスマッチを克服した。
論文 参考訳(メタデータ) (2023-02-02T18:27:20Z) - Goal-Conditioned Q-Learning as Knowledge Distillation [136.79415677706612]
目標条件設定における非政治強化学習と知識蒸留との関連について検討する。
これは,目標の空間が高次元である場合に,目標条件付き非政治強化学習の性能を向上させることを実証的に示す。
また,複数のスパース目標を同時に達成した場合に,この手法を効果的に学習できることを示す。
論文 参考訳(メタデータ) (2022-08-28T22:01:10Z) - Safe RAN control: A Symbolic Reinforcement Learning Approach [62.997667081978825]
本稿では,無線アクセスネットワーク(RAN)アプリケーションの安全管理のためのシンボル強化学習(SRL)アーキテクチャを提案する。
我々は、ユーザが所定のセルネットワークトポロジに対して高レベルの論理的安全性仕様を指定できる純粋に自動化された手順を提供する。
ユーザがシステムに意図仕様を設定するのを支援するために開発されたユーザインターフェース(UI)を導入し、提案するエージェントの動作の違いを検査する。
論文 参考訳(メタデータ) (2021-06-03T16:45:40Z) - Deep Learning-based Resource Allocation For Device-to-Device
Communication [66.74874646973593]
デバイス間通信(D2D)を用いたマルチチャネルセルシステムにおいて,リソース割り当ての最適化のためのフレームワークを提案する。
任意のチャネル条件に対する最適な資源配分戦略をディープニューラルネットワーク(DNN)モデルにより近似する深層学習(DL)フレームワークを提案する。
シミュレーションの結果,提案手法のリアルタイム性能を低速で実現できることが確認された。
論文 参考訳(メタデータ) (2020-11-25T14:19:23Z) - Adaptive Contention Window Design using Deep Q-learning [46.49295424938727]
ランダムアクセス無線ネットワークにおける適応競合窓(CW)設計の問題について検討する。
我々のゴールは、ネットワークレベルのユーティリティを最大化するために、最小CW(MCW)パラメータを動的に適応できるインテリジェントノードを設計することである。
論文 参考訳(メタデータ) (2020-11-18T17:31:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。