論文の概要: Priority-Aware Scheduler for Serverless Functions Provision and Load Balancing
- arxiv url: http://arxiv.org/abs/2610.35073v1
- Date: Mon, 26 Oct 2026 09:18:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.808322
- Title: Priority-Aware Scheduler for Serverless Functions Provision and Load Balancing
- Title(参考訳): サーバーレス関数のプロビジョニングとロードバランシングのためのプライオリティ対応スケジューリング
- Abstract要約: メモリ制約のある分散ワーカーノードのためのルールベースの優先度対応スケジューラSPES-Extを提案する。
その結果,SPES-Extは7,5分の1のコールドスタートで80%低下し,83.92%のメモリ無駄が減少し,52.49%の作業負荷分散が改善した。
- 参考スコア(独自算出の注目度): 37.28437839346672
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Serverless computing has emerged as a pivotal cloud deployment paradigm due to its efficient utilization of on-demand resources. However, the persistent cold start problem continues to hinder system performance. Current strategies often employ oversimplified preloading/unloading mechanisms that inadequately exploit invocation patterns, failing to optimize the critical trade-off between startup latency and resource efficiency. Furthermore, existing approaches disregard practical constraints of memory-limited multi-worker environments, exacerbating function eviction and load imbalance issues. To address these limitations, we present SPES-Ext, a rule-based priority-aware scheduler designed for memory-constrained distributed worker nodes. Our methodology stems from two key observations: (1) serverless systems exhibit concentrated invocation patterns enabling behavioral predictability, and (2) these patterns permit function categorization for granular instance management. This insight posits that characteristic-driven prioritization enables optimal scheduling rules, leading to our system design, which integrates three coordinated components: predictive function provisioning, eviction optimization, and dynamic load balancing. Experimental validation demonstrates the superiority of SPES-Ext over state-of-the-art solutions: 80% reduction in $75^{th}$-percentile cold starts, 83.92% decrease in memory waste, and 52.49% improvement in worker load variance.
- Abstract(参考訳): サーバーレスコンピューティングは、オンデマンドリソースの効率的な利用により、重要なクラウドデプロイメントパラダイムとして登場した。
しかし、持続的なコールドスタート問題はシステム性能を妨げ続けている。
現在の戦略では、起動遅延とリソース効率の間の重要なトレードオフの最適化に失敗し、呼び出しパターンを不適切に活用する、単純化されたプレロード/アンロードメカニズムをしばしば採用しています。
さらに、メモリ制限されたマルチワーカー環境の実践的制約や、機能排除の悪化、負荷不均衡の問題も無視している。
これらの制約に対処するため、メモリ制約のある分散ワーカーノード用に設計されたルールベースの優先度対応スケジューラSPES-Extを提案する。
本手法は,(1) サーバーレスシステムにおいて,行動予測可能性を実現する集中的な呼び出しパターンが示され,(2) それらのパターンは,粒度のインスタンス管理のための関数分類を許容する。
この知見は、特性駆動の優先順位付けが最適なスケジューリングルールを可能にすることを示唆し、予測関数のプロビジョニング、消去最適化、動的負荷分散という3つの調整されたコンポーネントを統合するシステム設計につながった。
実験による検証により、SPES-Extが最先端のソリューションよりも優れていることが示された: 80%の7,5^{th}$-percentileコールドスタートの減少、83.92%のメモリ無駄の減少、および52.49%のワーカー負荷分散の改善である。
関連論文リスト
- ScaleSense: Cost-Intelligent Scaling Framework via Learned Resource Estimation in Alibaba AnalyticDB [59.708423132520515]
クラウドネイティブなサーバレスデータウェアハウスは、計算からストレージを分離することで、きめ細かい弾力性を達成する。
しかし、高度にヘテロジニアスなアドホッククエリに対する最適なリソース割り当てを決定することは、深刻な産業上の課題である。
プロアクティブでクエリレベルのリソーススケーリングフレームワークであるScaleSenseを提案する。
論文 参考訳(メタデータ) (2026-08-08T06:10:35Z) - A Self-Triggered Agentic Push Recommendation System [77.13502692161426]
プッシュ通知は、大規模プラットフォームにおける重要なレコメンデーションシナリオである。
本稿では,プロアクティブ・セルフトリガー・エンド・ツー・エンドのエージェント・プッシュ・レコメンデーションシステムを提案する。
STEPSはすでにDouyinに10億人以上のユーザーを抱えている。
論文 参考訳(メタデータ) (2026-08-03T09:20:53Z) - Multi-Timescale Latent-Action DRL for Joint Optimization in Edge-Cloud Networks [48.421359451414155]
エッジクラウドとレイヤ間のロード不均衡は、レイテンシのパフォーマンスを低下させる。
動的タスク到着と異種リソースの下での階層型エッジクラウドコンピューティングシステム。
本稿では,サービス配置を最適化するための行動空間(2MDRL-LA)を用いた2時間深層学習研究を提案する。
平均e2e遅延を20.8%削減し、計画よりも13%改善した。
論文 参考訳(メタデータ) (2026-06-30T11:56:15Z) - Adaptive Serverless Resource Management via Slot-Survival Prediction and Event-Driven Lifecycle Control [6.390778513308276]
サーバレスコンピューティングは、インフラストラクチャ管理のオーバーヘッドをなくすが、コールドスタートのレイテンシとリソース利用に関する大きな課題をもたらす。
本稿では,イベント駆動アーキテクチャと確率的モデリングにより,サーバレス性能を最適化する適応エンジニアリングフレームワークを提案する。
実験結果から, マルチクラウド環境におけるベースライン手法と比較して, コールドスタートを51.2%削減し, コスト効率を約2倍向上することがわかった。
論文 参考訳(メタデータ) (2026-04-07T05:57:37Z) - Towards a Science of Scaling Agent Systems [79.64446272302287]
エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。
協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。
ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
論文 参考訳(メタデータ) (2025-12-09T06:52:21Z) - CSGO: Generalized Optimization for Cold Start in Wireless Collaborative Edge LLM Systems [62.24576366776727]
本稿では,全体の推論遅延を最小限に抑えるために,遅延を考慮したスケジューリングフレームワークを提案する。
提案手法は,ベースライン戦略と比較して,コールドスタート遅延を著しく低減することを示す。
論文 参考訳(メタデータ) (2025-08-15T07:49:22Z) - SPES: Towards Optimizing Performance-Resource Trade-Off for Serverless Functions [31.01399126339857]
サーバーレスコンピューティングは、その効率性とオンデマンドのクラウドリソースを活用する能力によって、勢いを増している。
既存のソリューションでは、完全な呼び出しパターンを使わずに関数のプリロード/アンロードのために、過剰に単純化された戦略を使う傾向があります。
本研究では、サーバーレス関数のプロビジョニングを最適化することにより、実行時コールドスタート緩和のための最初の差別化スケジューラであるSPESを提案する。
論文 参考訳(メタデータ) (2024-03-26T10:28:41Z) - On-demand Cold Start Frequency Reduction with Off-Policy Reinforcement Learning in Serverless Computing [18.36339203254509]
提案した研究は、強化学習(RL)を用いて、プラットフォーム上での頻繁でオンデマンドなコールドスタートを減らすことに焦点を当てている。
提案手法では,CPU利用率や既存関数インスタンス,応答障害率といった関数メトリクスを考慮したモデルフリーQ-ラーニングを用いて,関数を前もって積極的に初期化する。
評価結果は,Kubelessのデフォルトポリシや関数維持ポリシと比較して,RLベースのエージェントの性能が良好であることを示す。
論文 参考訳(メタデータ) (2023-08-15T03:01:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。