論文の概要: Prioritizing Microservice Requests via Retries
- arxiv url: http://arxiv.org/abs/2610.20567v1
- Date: Wed, 14 Oct 2026 17:51:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.287761
- Title: Prioritizing Microservice Requests via Retries
- Title(参考訳): リトライによるマイクロサービス要求の優先順位付け
- Abstract要約: クラウドサービスは、すぐに独立して管理されるアーキテクチャへと移行する。
この独立は一時的な不正調整を招き、価値ある取引の過負荷と拒絶をもたらす可能性がある。
DiffDifferential Retriesを提案し、リトライをリジェクション優先化機構に変換することにより、これらの欠陥を克服する。
- 参考スコア(独自算出の注目度): 7.18640054120351
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Cloud services rapidly shift towards independently-managed microservices architectures. This independence may lead to temporary microservices miscoordination, resulting in overloads and rejections of valuable transactions. This weakness may further be exploited by attackers to launch overload attacks inflicting performance and cost damages. Retry operations are a key machinery aiming at overcoming seldom rejections. However, during overload periods they: a) Fail protecting valuable transactions from rejections, and b) Trigger large-scale performance-degrading retry storms. We propose simple modifications in retry operations, overcoming these deficiencies by transforming retries into a rejection prioritization mechanism, DiffTry (Differential Retries). It is based on a simple, lightweight, distributed and stateless design and requires neither overload sensing nor microservices coordination. We develop an analytical model capturing DiffTry's effectiveness for two services in tandem, then generalize it to networks of services. Our theoretical framework lets practitioners quantify, for a given network, the resulting prioritization and rejection rates, and yields formal guarantees that DiffTry substantially reduces the impact of both incidental and adversarial orchestrated overloads. We validate these predictions in simulation and on a live Kubernetes deployment, where DiffTry is a simple drop-in service-mesh plugin requiring no application changes; the measured rejection closely matches the analysis.
- Abstract(参考訳): クラウドサービスは、独立して管理されるマイクロサービスアーキテクチャへと急速に移行する。
この独立性は一時的なマイクロサービスのミスコーディネーションを引き起こし、過剰な負荷と価値あるトランザクションの拒否を引き起こす可能性がある。
この弱点は、攻撃者がパフォーマンスとコストを損なう過負荷攻撃を発射するためにさらに悪用される可能性がある。
再試行作業はめったに拒否を克服することを目的とした重要な機械である。
しかし、過負荷時には次のようになる。
イ 貴重取引を拒絶から保護しないこと。
ロ 大規模性能劣化リトライ嵐のトリガー
本稿では、リトライ操作において、リトライを拒否優先化機構であるDiffTry(Differential Retries)に変換することで、これらの欠陥を克服する簡単な修正を提案する。
シンプルで軽量、分散、ステートレスな設計に基づいており、オーバーロードの検知もマイクロサービスの調整も必要ありません。
そこで我々は,DiffTryの2つのサービスに対する有効性を解析モデルとして開発し,それをサービスのネットワークに一般化する。
我々の理論的枠組みは、あるネットワークに対して、結果として生じる優先順位付けと拒絶率を定量化し、DiffTryが偶発的および敵対的なオーバロードの影響を著しく減少させるという正式な保証を与える。
DiffTryは単純なドロップインのサービスメッシュプラグインで、アプリケーションの変更を必要としない。
関連論文リスト
- Does This Action Still Explain the Task? Reverse Scoring for Diffusion Language Model Agents [25.947103954467874]
拡散ベースの大規模言語モデル(dLLM)は、並列デコーディングを通じて自動回帰エージェントのシーケンシャル遅延ボトルネックを壊すことを約束する。
最近の評価では、この効率はエンボディード・エージェント・コンピテンスに移行しない。
我々は、この失敗とトレーニングなしの治療法について、機械学的に説明します。
論文 参考訳(メタデータ) (2026-09-29T20:54:04Z) - Robust and Automated Reconfiguration of Byzantine Wide-Area Replication [0.8924669503280332]
Byzantineのフォールトトレラントステートマシンレプリケーション(BFT-SMR)は、実行前にクライアントトランザクションを完全に注文する複製サービスである。
本研究では,フェール化されたレイテンシレポートをフィルタリングし,ロバストな重み分布を計算し,機械学習を適用してビザンチン耐性のある構成に収束する再構成フレームワークであるBewareを提案する。
評価の結果,Bewareは既存のソリューションと比較してコンセンサス遅延を最大45%削減できることがわかった。
論文 参考訳(メタデータ) (2026-06-15T14:01:57Z) - FERA: Uncertainty-Aware Federated Reasoning for Large Language Models [60.52562148874846]
我々は、サーバがプライベートなデモンストレーションを行う異種クライアントと協調することで、多段階推論を改善するフェデレーション推論について研究する。
重要な課題は、クライアントの信頼性がクエリ依存であるのに対して、サーバはクライアントデータを検査して、どのコントリビューションが信頼できるかを判断できません。
本稿では,サーバクライアントの反復的コリファインメントに基づくトレーニングフリーフレームワークである Uncertainty-Aware Federated Reasoning (FERA) を提案する。
論文 参考訳(メタデータ) (2026-05-11T07:04:51Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳(メタデータ) (2026-03-23T14:48:54Z) - CREDIT: Certified Ownership Verification of Deep Neural Networks Against Model Extraction Attacks [54.04030169323115]
我々は、モデル抽出攻撃(MEA)に対する認証された所有権検証であるCREDITを紹介する。
DNNモデル間の類似性を定量化し、実用的な検証しきい値を提案し、このしきい値に基づいてオーナシップ検証を行うための厳密な理論的保証を提供する。
我々は、さまざまなドメインやタスクにまたがるいくつかの主流データセットに対するアプローチを広範囲に評価し、最先端のパフォーマンスを実現した。
論文 参考訳(メタデータ) (2026-02-23T23:36:25Z) - DoVer: Intervention-Driven Auto Debugging for LLM Multi-Agent Systems [48.971606069204825]
DoVerは、大規模言語モデル(LLM)ベースのマルチエージェントシステムのための介入駆動デバッグフレームワークである。
ターゲットの介入を通じて、アクティブな検証によって仮説生成を増強する。
DoVerは失敗試験の18~28%を成功させ、最大16%のマイルストーンを達成し、失敗仮説の30~60%を検証または否定する。
論文 参考訳(メタデータ) (2025-12-07T09:23:48Z) - RetryGuard: Preventing Self-Inflicted Retry Storms in Cloud Microservices Applications [7.18640054120351]
RetryGuardは、相互依存サービス間でリトライパターンを生産的に制御するための分散フレームワークである。
RetryGuardは、AWS標準や高度なリトライポリシと比較して、リソース使用量やコストを大幅に削減します。
論文 参考訳(メタデータ) (2025-11-28T15:31:25Z) - A Generative Framework for Low-Cost Result Validation of Machine Learning-as-a-Service Inference [4.478182379059458]
FidesはML-as-a-Service(ML)推論のリアルタイム整合性検証のための新しいフレームワークである。
Fidesは、統計的分析とばらつき測定を使用して、サービスモデルが攻撃を受けている場合、高い確率で識別するクライアント側攻撃検出モデルを備えている。
攻撃検出と再分類モデルの訓練のための生成的逆ネットワークフレームワークを考案した。
論文 参考訳(メタデータ) (2023-03-31T19:17:30Z) - ApproxIFER: A Model-Agnostic Approach to Resilient and Robust Prediction
Serving Systems [24.75623641870649]
一般的なストラグラー数を扱うために ApproxIFER を提案する。
多数のデータセットとモデルアーキテクチャに関する実験では、パリティモデルアプローチよりも最大58%精度が向上した。
論文 参考訳(メタデータ) (2021-09-20T22:29:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。