論文の概要: MCRL2: Multi-resource Cross-attention-based Representation Learning-augmented Reinforcement Learning for Cloud Microservice Scheduling
- arxiv url: http://arxiv.org/abs/2609.13048v1
- Date: Fri, 11 Sep 2026 16:44:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.816192
- Title: MCRL2: Multi-resource Cross-attention-based Representation Learning-augmented Reinforcement Learning for Cloud Microservice Scheduling
- Title(参考訳): MCRL2: マルチリソースのクロスアテンションベースのRepresentation Learning-augmented Reinforcement Learning for Cloud Microservice Scheduling
- Abstract要約: MCRL2は、マイクロサービススケジューリングのためのマルチリソースのクロスアテンションベースの表現学習を付加した、新しい強化学習アプローチである。
MCRL2は、負荷分散、スケジューリング成功率、各種ワークロードパターンの平均完了時間において、既存のベースラインを著しく上回ります。
- 参考スコア(独自算出の注目度): 12.212276589014351
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Efficient microservice scheduling is crucial for maintaining load balance across nodes in data centers and ensuring high quality of service. However, achieving this in practice remains challenging due to dynamic resource imbalance under fluctuating workloads, nonlinear coupling across multiple resource dimensions, and the heterogeneity of microservice resource demands. While reinforcement learning-based approaches have shown promise, they struggle to capture the complex interdependencies among heterogeneous resources and neglect the importance of learning informative system representations. To address these limitations, we propose MCRL2, a novel reinforcement learning approach augmented with multi-resource cross-attention-based representation learning for microservice scheduling. Specifically, we first propose MCRL, a novel representation learning approach that captures structured and informative interactions among nodes, resources, and microservices via a multi-resource cross-attention mechanism. Then, MCRL2 augments reinforcement learning through MCRL-enhanced actor-critic architecture combined with a maximum entropy objective, improving system state expressiveness and leading to more stable and effective scheduling decisions. Extensive experiments on real production cluster traces demonstrate that MCRL2 significantly outperforms existing baselines in load balancing, scheduling success rate and average completion time across diverse workload patterns.
- Abstract(参考訳): 効率的なマイクロサービススケジューリングは、データセンタ内のノード間のロードバランシングの維持と、サービス品質の確保に不可欠である。
しかし、実際にこれを実現するには、変動するワークロード下での動的リソースの不均衡、複数のリソース次元にわたる非線形結合、マイクロサービスリソース要求の不均一性など、依然として困難である。
強化学習に基づくアプローチは、将来性を示す一方で、異種資源間の複雑な相互依存を捉え、情報的システム表現の学習の重要性を無視するのに苦労している。
これらの制約に対処するため、マイクロサービススケジューリングのためのマルチリソース・クロスアテンションに基づく表現学習を付加した新しい強化学習手法であるMCRL2を提案する。
具体的には,マルチリソースのクロスアテンション機構を用いて,ノード,リソース,マイクロサービス間の構造化および情報的インタラクションをキャプチャする,新しい表現学習手法であるMCRLを提案する。
次に、MCRL2は、MCRLに強化されたアクタークリティカルアーキテクチャと最大エントロピー目標を組み合わせることで強化学習を強化し、システム状態表現性を改善し、より安定的で効果的なスケジューリング決定をもたらす。
実運用クラスタトレースに関する大規模な実験により、MCRL2は、ロードバランシング、スケジューリング成功率、およびさまざまなワークロードパターンの平均完了時間において、既存のベースラインを著しく上回ります。
関連論文リスト
- Provable Multi-Task Reinforcement Learning: A Representation Learning Framework with Low Rank Rewards [5.213778368155992]
マルチタスク表現学習(MTRL)は、関連するタスク間で共有潜在表現を学習する手法である。
本稿では,マルチタスク強化学習(RL)におけるMTRLについて検討する。
論文 参考訳(メタデータ) (2026-04-04T23:08:35Z) - MSRL: Scaling Generative Multimodal Reward Modeling via Multi-Stage Reinforcement Learning [59.03162187361455]
マルチステージ強化学習(MSRL)は、限られたマルチモーダルデータを持つマルチモーダル報酬モデルに対してスケーラブルなRLを実現することができる。
MSRLは、従来のRLVRベースのトレーニングパラダイムを、一般化可能な報酬推論能力を初めて学習することで置き換える。
大規模な実験により、MSRLはRLVRベースの生成型MRMのトレーニングを効果的にスケールすることが示された。
論文 参考訳(メタデータ) (2026-03-26T07:27:11Z) - Sample-Efficient Neurosymbolic Deep Reinforcement Learning [49.60927398960061]
本稿では,背景記号知識を統合し,サンプル効率を向上させるニューロシンボリックディープRL手法を提案する。
オンライン推論は2つのメカニズムを通じてトレーニングプロセスのガイドを行う。
我々は、最先端の報奨機ベースラインよりも優れた性能を示す。
論文 参考訳(メタデータ) (2026-01-06T09:28:53Z) - Meta Hierarchical Reinforcement Learning for Scalable Resource Management in O-RAN [9.290879387995401]
本稿では,モデル非依存型メタラーニング(MAML)に触発された適応型メタ階層型強化学習フレームワークを提案する。
このフレームワークは階層的な制御とメタラーニングを統合し、グローバルとローカルの両方の適応を可能にする。
ネットワークスケールの増加に伴い、適応と一貫性のある公平性、レイテンシ、スループットのパフォーマンスが最大40%向上する。
論文 参考訳(メタデータ) (2025-12-08T08:16:27Z) - Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic Shuffle [65.14124923451077]
強化学習(Reinforcement Learning, RL)は、マルチモーダル大言語モデル(MLLM)の推論能力を高めるための効果的なポストトレーニングパラダイムとして登場した。
しかしながら、現在のRLパイプラインは、アドバンテージ・コラプシング(Advantage Collapsing)とロールアウト・サイレンシング(Rollout Silencing)という2つの未解決の問題によって、トレーニングの非効率に悩まされることが多い。
軌道サンプリングとバッチ合成を動的に再構成することにより、RLの微調整効率を向上する、シンプルだが原則化されたフレームワークであるShuffle-R1を提案する。
論文 参考訳(メタデータ) (2025-08-07T17:53:47Z) - Co-Reinforcement Learning for Unified Multimodal Understanding and Generation [53.03303124157899]
本稿では,統一多モーダル大言語モデル(ULM)に対するグループ相対的政策最適化による強化学習(RL)の先駆的な探索について述べる。
共同最適化のための統一RLステージとタスク固有強化のための改良RLステージからなる協調強化学習フレームワークであるCoRLを紹介する。
提案したCoRLでは,3つのテキスト・画像生成データセットで平均7%,9つのマルチモーダル理解ベンチマークで平均23%の改善を実現している。
論文 参考訳(メタデータ) (2025-05-23T06:41:07Z) - Intelligent Task Scheduling for Microservices via A3C-Based Reinforcement Learning [4.422684054800804]
本稿では,A3C強化学習アルゴリズムに基づく適応的な資源スケジューリング手法を提案する。
この手法には非同期なマルチスレッド学習機構が組み込まれており、複数のエージェントが並列サンプリングを行い、グローバルネットワークパラメータの更新を同期させることができる。
提案手法はマルチタスク・コンカレント環境において高いスケジューリング性能とシステム安定性を実現する。
論文 参考訳(メタデータ) (2025-05-01T04:42:48Z) - StreamRL: Scalable, Heterogeneous, and Elastic RL for LLMs with Disaggregated Stream Generation [55.75008325187133]
強化学習(RL)は,大規模言語モデル(LLM)の学習後のコアとなる。
StreamRLは、最初の原則から分離して、2種類のパフォーマンスボトルネックに対処するように設計されている。
実験により、StreamRLは既存の最先端システムと比較してスループットを最大2.66倍改善することが示された。
論文 参考訳(メタデータ) (2025-04-22T14:19:06Z) - Load Balancing in Federated Learning [3.2999744336237384]
Federated Learning(FL)は、複数のリモートデバイスに分散したデータからの学習を可能にする、分散機械学習フレームワークである。
本稿では,情報時代に基づくスケジューリングポリシーの負荷指標を提案する。
マルコフ連鎖モデルの最適パラメータを確立し、シミュレーションによりアプローチを検証する。
論文 参考訳(メタデータ) (2024-08-01T00:56:36Z) - M2CURL: Sample-Efficient Multimodal Reinforcement Learning via Self-Supervised Representation Learning for Robotic Manipulation [0.7564784873669823]
マルチモーダルコントラスト非教師強化学習(M2CURL)を提案する。
提案手法は,効率的な表現を学習し,RLアルゴリズムの高速収束に寄与する,新しいマルチモーダル自己教師学習技術を用いている。
Tactile Gym 2シミュレータ上でのM2CURLの評価を行い、異なる操作タスクにおける学習効率を大幅に向上させることを示す。
論文 参考訳(メタデータ) (2024-01-30T14:09:35Z) - Dif-MAML: Decentralized Multi-Agent Meta-Learning [54.39661018886268]
我々は,MAML や Dif-MAML と呼ばれる協調型マルチエージェントメタ学習アルゴリズムを提案する。
提案手法により, エージェントの集合が線形速度で合意に達し, 集約MAMLの定常点に収束できることを示す。
シミュレーションの結果は従来の非協調的な環境と比較して理論的な結果と優れた性能を示している。
論文 参考訳(メタデータ) (2020-10-06T16:51:09Z) - An Online Method for A Class of Distributionally Robust Optimization
with Non-Convex Objectives [54.29001037565384]
本稿では,オンライン分散ロバスト最適化(DRO)のクラスを解決するための実用的なオンライン手法を提案する。
本研究は,ネットワークの堅牢性向上のための機械学習における重要な応用を実証する。
論文 参考訳(メタデータ) (2020-06-17T20:19:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。