論文の概要: GOSH: Task Scheduling Using Deep Surrogate Models in Fog Computing
Environments
- arxiv url: http://arxiv.org/abs/2112.08916v1
- Date: Thu, 16 Dec 2021 14:36:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-17 20:01:25.686413
- Title: GOSH: Task Scheduling Using Deep Surrogate Models in Fog Computing
Environments
- Title(参考訳): GOSH:フォグコンピューティング環境におけるディープサロゲートモデルを用いたタスクスケジューリング
- Authors: Shreshth Tuli, Giuliano Casale and Nicholas R. Jennings
- Abstract要約: 本稿では,新しいスケジューラGOSHを紹介する。
GOSHは2階勾配に基づく最適化アプローチを使用して、レイテンシの向上とイテレーション回数の削減を実現している。
エネルギー消費, 応答時間, SLA違反に関しては, それぞれ18, 27, 82%の大幅な改善が見られた。
- 参考スコア(独自算出の注目度): 12.215537834860699
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recently, intelligent scheduling approaches using surrogate models have been
proposed to efficiently allocate volatile tasks in heterogeneous fog
environments. Advances like deterministic surrogate models, deep neural
networks (DNN) and gradient-based optimization allow low energy consumption and
response times to be reached. However, deterministic surrogate models, which
estimate objective values for optimization, do not consider the uncertainties
in the distribution of the Quality of Service (QoS) objective function that can
lead to high Service Level Agreement (SLA) violation rates. Moreover, the
brittle nature of DNN training and prevent such models from reaching minimal
energy or response times. To overcome these difficulties, we present a novel
scheduler: GOSH i.e. Gradient Based Optimization using Second Order derivatives
and Heteroscedastic Deep Surrogate Models. GOSH uses a second-order gradient
based optimization approach to obtain better QoS and reduce the number of
iterations to converge to a scheduling decision, subsequently lowering the
scheduling time. Instead of a vanilla DNN, GOSH uses a Natural Parameter
Network to approximate objective scores. Further, a Lower Confidence Bound
optimization approach allows GOSH to find an optimal trade-off between greedy
minimization of the mean latency and uncertainty reduction by employing
error-based exploration. Thus, GOSH and its co-simulation based extension
GOSH*, can adapt quickly and reach better objective scores than baseline
methods. We show that GOSH* reaches better objective scores than GOSH, but it
is suitable only for high resource availability settings, whereas GOSH is apt
for limited resource settings. Real system experiments for both GOSH and GOSH*
show significant improvements against the state-of-the-art in terms of energy
consumption, response time and SLA violations by up to 18, 27 and 82 percent,
respectively.
- Abstract(参考訳): 近年,不均一フォグ環境での揮発性タスクを効率的に割り当てるために,サロゲートモデルを用いたインテリジェントスケジューリング手法が提案されている。
決定論的サロゲートモデル、ディープニューラルネットワーク(DNN)、勾配に基づく最適化などの進歩により、低エネルギー消費と応答時間に到達することができる。
しかし、最適化の客観的値を見積もる決定論的代理モデルは、高いサービスレベル合意(SLA)違反率につながる可能性のあるQoS(Quality of Service)目標関数の分布の不確実性を考慮していない。
さらに、DNNトレーニングの脆さの性質は、そのようなモデルが最小エネルギーや応答時間に達するのを防ぐ。
これらの課題を克服するために,二階微分とヘテロシドスティック深層サロゲートモデルを用いた勾配に基づく最適化という新しいスケジューラを提案する。
GOSHは2階勾配に基づく最適化手法を用いてより優れたQoSを求め、スケジューリング決定に収束するイテレーション数を削減し、スケジューリング時間を短縮する。
バニラDNNの代わりに、GOSHはNatural Parameter Networkを使用して客観的スコアを近似する。
さらに、信頼度境界最適化手法により、GOSHは、平均遅延のグリーディ最小化とエラーベースの探索による不確実性低減のトレードオフを最適に見つけることができる。
したがって、goshとその共シミュレーションベースの拡張gosh*は、ベースラインメソッドよりも迅速に適応し、優れた客観的スコアに達することができる。
GOSH*はGOSHよりも客観的スコアがよいことを示すが、GOSHは限られたリソース設定に適応するのに対して、高可用性設定にのみ適している。
GOSH*とGOSH*の実際のシステム実験では,エネルギー消費,応答時間,SLA違反に関して,それぞれ18,27,82パーセントの大幅な改善が見られた。
関連論文リスト
- Selective Task offloading for Maximum Inference Accuracy and Energy
efficient Real-Time IoT Sensing Systems [3.0748861313823]
多次元クナップサック問題の解法として,軽量ハイブリッド遺伝的アルゴリズム(LGSTO)を提案する。
実験の結果,LGSTOは最高速のスキームよりも3倍高速であった。
論文 参考訳(メタデータ) (2024-02-24T18:46:06Z) - Client Orchestration and Cost-Efficient Joint Optimization for
NOMA-Enabled Hierarchical Federated Learning [55.49099125128281]
半同期クラウドモデルアグリゲーションの下で非直交多重アクセス(NOMA)を実現するHFLシステムを提案する。
提案手法は,HFLの性能改善と総コスト削減に関するベンチマークよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-03T13:34:44Z) - Achieving Constraints in Neural Networks: A Stochastic Augmented
Lagrangian Approach [49.1574468325115]
DNN(Deep Neural Networks)の正規化は、一般化性の向上とオーバーフィッティングの防止に不可欠である。
制約付き最適化問題としてトレーニングプロセスのフレーミングによるDNN正規化に対する新しいアプローチを提案する。
我々はAugmented Lagrangian (SAL) 法を用いて、より柔軟で効率的な正規化機構を実現する。
論文 参考訳(メタデータ) (2023-10-25T13:55:35Z) - Deterministic Langevin Unconstrained Optimization with Normalizing Flows [3.988614978933934]
我々は,Fokker-Planck方程式とLangevin方程式にインスパイアされたブラックボックス関数に対するグローバルで自由な代理最適化戦略を導入する。
本研究は,標準合成試験関数の最適目的に向けての競争力の向上を実証する。
論文 参考訳(メタデータ) (2023-10-01T17:46:20Z) - Score Function Gradient Estimation to Widen the Applicability of
Decision-Focused Learning [17.494540497438955]
決定中心学習(DFL)は、タスク損失を直接最小化し、MLモデルをトレーニングすることを目的として、最近提案されたパラダイムである。
本研究では,パラメータ上でのテキスト分布の予測とスコア関数勾配推定(SFGE)を用いて,予測モデルに対する決定中心の更新を計算することにより,これらの制約に対処する。
実験の結果,(1)目的関数と制約の両方で発生する予測に対処し,(2)2段階最適化問題に効果的に取り組むことができることがわかった。
論文 参考訳(メタデータ) (2023-07-11T12:32:13Z) - Low-Precision Stochastic Gradient Langevin Dynamics [70.69923368584588]
本稿では,低精度のグラジエントランゲヴィンダイナミクスを初めて研究し,性能を犠牲にすることなくコストを大幅に削減できることを示した。
本研究では,各更新ステップの分散を保存したSGLDの新しい量子化関数を開発する。
我々は,低精度のSGLDが,様々なディープラーニングタスクにおいて8ビットしか持たない完全精度のSGLDに匹敵する性能を実現することを実証した。
論文 参考訳(メタデータ) (2022-06-20T17:25:41Z) - Regret-Aware Black-Box Optimization with Natural Gradients,
Trust-Regions and Entropy Control [17.430247457941284]
CMA-ESのような最も成功したブラックボックスは、新しい検索分布を得るために個々のサンプルのランキングを使用する。
これらのアルゴリズムは、通常、検索分布の質の高い平均推定値を生成するが、これらのアルゴリズムは後悔を知らないため、生成したサンプルは品質が劣る可能性がある。
対照的に、Relative Entropy Search (MORE)アルゴリズムは、ランキングを使わずに、期待されるフィットネス機能を直接最適化する。
論文 参考訳(メタデータ) (2022-05-24T16:25:15Z) - PreGAN: Preemptive Migration Prediction Network for Proactive
Fault-Tolerant Edge Computing [12.215537834860699]
本稿では,GAN(Generative Adrial Network)を用いた複合AIモデルPreGANを提案する。
PreGANは、欠陥検出、診断、分類において最先端のベースライン手法より優れており、高い品質のサービスを実現することができる。
論文 参考訳(メタデータ) (2021-12-04T09:40:50Z) - Fast Distributionally Robust Learning with Variance Reduced Min-Max
Optimization [85.84019017587477]
分散的ロバストな教師付き学習は、現実世界のアプリケーションのための信頼性の高い機械学習システムを構築するための重要なパラダイムとして登場している。
Wasserstein DRSLを解くための既存のアルゴリズムは、複雑なサブプロブレムを解くか、勾配を利用するのに失敗する。
我々はmin-max最適化のレンズを通してwaserstein drslを再検討し、スケーラブルで効率的に実装可能な超勾配アルゴリズムを導出する。
論文 参考訳(メタデータ) (2021-04-27T16:56:09Z) - Modeling the Second Player in Distributionally Robust Optimization [90.25995710696425]
我々は、最悪のケース分布を特徴付けるために神経生成モデルを使うことを議論する。
このアプローチは多くの実装と最適化の課題をもたらします。
提案されたアプローチは、同等のベースラインよりも堅牢なモデルを生み出す。
論文 参考訳(メタデータ) (2021-03-18T14:26:26Z) - Combining Deep Learning and Optimization for Security-Constrained
Optimal Power Flow [94.24763814458686]
セキュリティに制約のある最適電力フロー(SCOPF)は、電力システムの基本である。
SCOPF問題におけるAPRのモデル化は、複雑な大規模混合整数プログラムをもたらす。
本稿では,ディープラーニングとロバスト最適化を組み合わせた新しい手法を提案する。
論文 参考訳(メタデータ) (2020-07-14T12:38:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。