論文の概要: Adaptive Two-Level Allocation of a Conserved Capacity Budget Across Locations and Service Classes
- arxiv url: http://arxiv.org/abs/2608.07747v1
- Date: Fri, 07 Aug 2026 20:26:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.494462
- Title: Adaptive Two-Level Allocation of a Conserved Capacity Budget Across Locations and Service Classes
- Title(参考訳): 地域・サービスクラスにまたがる保存キャパシティ予算の適応的二層配置
- Abstract要約: 需要が不均一で、時間的変化があり、供給を超過できる場合に、多くの場所と2つのサービスクラスで単一の保存容量予算を共有する方法について検討する。
本稿では,2段階のアルゴリズムを提案する。第1段階は,比例的欠陥と過剰な再分配により,クラス内の能力を再分配する。
KクラスとNのサイクル当たりのO(KN)コストで、サイクル当たりの状態を持たないため、我々は予算を正確に保存し、非負性を維持し、定常的な要求の下で1回の繰り返しで安定した割り当てに達することを証明した。
- 参考スコア(独自算出の注目度): 0.4779196219827507
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study how to share a single conserved capacity budget across many locations and two service classes when demand is uneven, time-varying, and can exceed supply. The shape recurs: an origin's request-rate cap split across its edge locations, a licensed throughput cap across premium and standard tenants, or an egress budget between latency-critical and batch workloads. We present a two-level algorithm. The first level redistributes capacity within a class across locations by proportional deficit and excess redistribution; the second lends capacity elastically between classes when one has surplus and the other deficit. We prove it conserves the budget exactly, preserves non-negativity, and reaches a stable allocation in one iteration under stationary demand because it carries no per-cycle state, at O(KN) cost per cycle for K classes and N locations. We evaluate it defending a CDN's per-domain budget under volumetric attack, where the classes are confirmed-legitimate and not-yet-cleared traffic; across 8 contention scenarios on a 22-location topology it serves 66-93% of high-priority demand, competitive with a single-class linear-programming optimum, while never leaving capacity idle or over-committing whenever aggregate demand meets or exceeds the budget (the contention regime these scenarios evaluate). Two findings carry beyond the application. First, a throughput-maximizing objective is wrong under contention: a two-class LP maximizing total served load serves less high-priority load than our demand-proportional, reservation-respecting allocator in most scenarios, because it cannot tell that some load it serves is the contention. Second, inter-class borrowing earns its complexity under bursty load, improving high-priority service by 1.5 points (isolated by ablation), and is neutral under stationary demand. A 5-location prototype with real HTTP traffic validates the pipeline.
- Abstract(参考訳): 需要が不均一で、時間的変化があり、供給を超過できる場合に、多くの場所と2つのサービスクラスで単一の保存容量予算を共有する方法について検討する。
形状が再帰する: オリジンの要求レート上限は、エッジロケーションに分割され、プレミアムと標準テナントにまたがるライセンススループット上限、レイテンシクリティカルなワークロードとバッチワークロードの間の外部予算。
本稿では,2段階のアルゴリズムを提案する。
第1のレベルは、比例的赤字と過剰な再分配によってクラス内の容量を再分配し、第2のレベルは、余剰と他の欠陥があるクラス間で弾力的に容量を貸す。
KクラスとNのサイクル当たりのO(KN)コストで、サイクル当たりの状態を持たないため、我々は予算を正確に保存し、非負性を維持し、定常的な要求の下で1回の繰り返しで安定した割り当てに達することを証明した。
我々は,CDNのドメインごとの予算を容積攻撃下で保護し,クラスが正当かつ未クリアなトラフィックであることを確認し,22か所のトポロジ上の8つの競合シナリオで66~93%の高プライオリティ需要を処理し,単一クラス線形プログラミングの最適条件と競合する一方で,総需要が満たされたり予算を超過した場合に容量アイドルや過コミットを決して残さないことを評価した(これらのシナリオは,これらのシナリオを評価する)。
2つの発見が適用範囲を越えている。
総サービス負荷を最大化する2クラスLPは、要求に比例した予約参照アロケータよりも高優先度の負荷が少ない。
第二に、クラス間借り入れは、バースト負荷下での複雑さを生み出し、高優先度のサービスを1.5ポイント改善し(アブレーションによる)、静止需要下では中立である。
実際のHTTPトラフィックを備えた5ロケーションのプロトタイプがパイプラインを検証する。
関連論文リスト
- Cascade: Exploiting SLO-Aware latency budget for fair and high goodput LLM inference serving [6.598068302749251]
本稿では、要求特性、KVキャッシュ状態、現在のシステム負荷からこの予算を推定し、継続的に更新するLLMサービスシステムであるCascadeについて述べる。
スケジューラは、ほとんど残らない予算でリクエストを優先順位付けし、メモリマネージャは同じ予算を使って、非居住者のKV状態が復元されるか、プレフェッチされるかを決定する。
3つの大きな言語モデルにわたる運用トレースでは、Cascadeは出力を最大2.4倍改善し、デフォルトのvLLMファーストカム、ファーストサービススケジューラと比較してSLO違反を40%削減する。
論文 参考訳(メタデータ) (2026-08-06T20:14:21Z) - Instance-Optimal Estimation with Multiple LLM Judges on a Budget [84.31744861038106]
我々は、この問題を*予算付きヘテロスケダティックなマルチジャッジ推定*として定式化する。
K$のプロンプト-レスポンスペア、J$の既知のコストと未知のクエリ-ジャッジ分散が与えられた場合、目標は、$ell_p$-errorを最小化しながら、有界スコアベクトルを推定することである。
EST-IVWEは,予算の低次項までのオラクルIVWEレートと一致していることを示す。
論文 参考訳(メタデータ) (2026-05-22T08:26:08Z) - Token Management in Multi-Tenant AI Inference Platforms [0.0]
マルチテナントAI推論プラットフォームは、可変要求下でのサービスレベルの保証とリソース利用のバランスをとる必要がある。
推論ネイティブユニットで表現された明示的な権利としてキャパシティを表すコントロールプレーン抽象化であるEmphtoken poolsを導入する。
論文 参考訳(メタデータ) (2026-02-27T22:44:09Z) - QoS-Aware Hierarchical Reinforcement Learning for Joint Link Selection and Trajectory Optimization in SAGIN-Supported UAV Mobility Management [52.15690855486153]
宇宙空間統合ネットワーク (SAGIN) がユビキタスUAV接続を実現するための重要なアーキテクチャとして登場した。
本稿では,SAGINにおけるUAVモビリティ管理を制約付き多目的関節最適化問題として定式化する。
論文 参考訳(メタデータ) (2025-12-17T06:22:46Z) - RPAF: A Reinforcement Prediction-Allocation Framework for Cache Allocation in Large-Scale Recommender Systems [22.87458184871264]
本稿では,キャッシュアロケーションにおける2つの重要な課題,すなわち,バリューストラテジー依存とストリーミングアロケーションを示す。
これらの問題に対処するための強化予測割当フレームワーク(RPAF)を提案する。
RPAFは、予測とアロケーション段階を含む強化学習ベースの2段階フレームワークである。
論文 参考訳(メタデータ) (2024-09-20T03:02:42Z) - Online Fair Allocation of Perishable Resources [1.4952056744888913]
我々は、標準オンラインフェアアロケーション問題の事実上の動機付け型を考察する。
意思決定者は、一定回数のラウンドを割り当てるために、パーシシブルなリソースの予算を持っている。
目標は、うらやましいほど効率的で効率的なアロケーションのシーケンスを構築することです。
論文 参考訳(メタデータ) (2024-06-04T15:14:10Z) - Double-Bounded Optimal Transport for Advanced Clustering and
Classification [58.237576976486544]
本稿では,2つの境界内での目標分布の制限を前提としたDB-OT(Douubly bounded Optimal Transport)を提案する。
提案手法は,テスト段階における改良された推論方式により,良好な結果が得られることを示す。
論文 参考訳(メタデータ) (2024-01-21T07:43:01Z) - Client Orchestration and Cost-Efficient Joint Optimization for
NOMA-Enabled Hierarchical Federated Learning [55.49099125128281]
半同期クラウドモデルアグリゲーションの下で非直交多重アクセス(NOMA)を実現するHFLシステムを提案する。
提案手法は,HFLの性能改善と総コスト削減に関するベンチマークよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-03T13:34:44Z) - Online Optimization for Randomized Network Resource Allocation with Long-Term Constraints [0.610240618821149]
簡単な通信網における最適オンラインリソース予約問題について検討する。
そこで我々は,オンラインサドルポイントアルゴリズムを提案し,関連するK-ベンチマークの後悔に対する上限を提示する。
論文 参考訳(メタデータ) (2023-05-24T20:47:17Z) - Online Learning under Budget and ROI Constraints via Weak Adaptivity [57.097119428915796]
制約付きオンライン学習問題に対する既存の原始双対アルゴリズムは、2つの基本的な仮定に依存している。
このような仮定は、標準の原始双対テンプレートを弱適応的後悔最小化器で与えることによって、どのように回避できるのかを示す。
上記の2つの前提が満たされていない場合に保証される、世界の最高の保証を証明します。
論文 参考訳(メタデータ) (2023-02-02T16:30:33Z) - Online Learning with Knapsacks: the Best of Both Worlds [54.28273783164608]
オンライン学習の課題として,意思決定者が,リソース制約の有限セットに違反することなく,期待する報酬を最大化したい,という課題を提起する。
当社のフレームワークは,意思決定者がそのエビデンスを柔軟かつコスト論的に扱えるようにします。
論文 参考訳(メタデータ) (2022-02-28T12:10:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。