論文の概要: Sonic: A Sampling-based Online Controller for Streaming Applications
- arxiv url: http://arxiv.org/abs/2108.10701v1
- Date: Sun, 15 Aug 2021 18:51:02 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-29 14:03:12.381526
- Title: Sonic: A Sampling-based Online Controller for Streaming Applications
- Title（参考訳）: Sonic: ストリーミングアプリケーションのためのサンプリングベースのオンラインコントローラ
- Authors: Yan Pei, Keshav Pingali
- Abstract要約: 機械学習やコンピュータビジョンといったストリーミングアプリケーションは、時間の経過とともに一連の入力を処理します。
最適なknob設定は、通常、入力、コンピューティングプラットフォーム、時間だけでなく、ユーザの要求に応じて機能するため、そのようなアプリケーションの実行時のパフォーマンスを最適化するknob設定を見つけるのは難しい。
我々は,事前にプロファイリングを必要とせず,長時間稼働するストリーミングアプリケーションのためのサンプリングベースのオンラインコントローラであるSonicを提案する。
- 参考スコア（独自算出の注目度）: 1.229218616235094
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many applications in important problem domains such as machine learning and
computer vision are streaming applications that take a sequence of inputs over
time. It is challenging to find knob settings that optimize the run-time
performance of such applications because the optimal knob settings are usually
functions of inputs, computing platforms, time as well as user's requirements,
which can be very diverse.
Most prior works address this problem by offline profiling followed by
training models for control. However, profiling-based approaches incur large
overhead before execution; it is also difficult to redeploy them in other
run-time configurations.
In this paper, we propose Sonic, a sampling-based online controller for
long-running streaming applications that does not require profiling ahead of
time. Within each phase of a streaming application's execution, Sonic utilizes
the beginning portion to sample the knob space strategically and aims to pick
the optimal knob setting for the rest of the phase, given a user-specified
constrained optimization problem. A hybrid approach of machine learning
regressions and Bayesian optimization are used for better overall sampling
choices.
Sonic is implemented independent of application, device, input, performance
objective and constraints. We evaluate Sonic on traditional parallel benchmarks
as well as on deep learning inference benchmarks across multiple platforms. Our
experiments show that when using Sonic to control knob settings, application
run-time performance is only 5.3% less than if optimal knob settings were used,
demonstrating that Sonic is able to find near-optimal knob settings under
diverse run-time configurations without prior knowledge quickly.
- Abstract（参考訳）: マシンラーニングやコンピュータビジョンといった重要な問題領域の多くのアプリケーションは、時間とともに一連の入力を受けるストリーミングアプリケーションです。
最適なノブ設定は、通常、入力、コンピューティングプラットフォーム、時間、およびユーザーの要求の関数であり、非常に多様であるので、そのようなアプリケーションのランタイムパフォーマンスを最適化するノブ設定を見つけることは困難である。
以前の作業のほとんどはオフラインのプロファイリングでこの問題に対処し、その後制御のためのトレーニングモデルが続いた。
しかし、プロファイリングベースのアプローチは実行前に大きなオーバーヘッドを発生させるため、他のランタイム設定でそれらを再デプロイすることも困難である。
本稿では,事前にプロファイリングを必要としない長期ストリーミングアプリケーションのためのサンプリングベースのオンラインコントローラであるSonicを提案する。
ストリーミングアプリケーションの実行の各フェーズにおいて、Sonicは初期部を利用して戦略的にknob空間をサンプリングし、ユーザ指定の制約付き最適化問題を考えると、残りのフェーズに対して最適なknob設定を選択する。
機械学習回帰とベイジアン最適化のハイブリッドアプローチは、サンプリングの全体選択を改善するために用いられる。
sonicはアプリケーション、デバイス、インプット、パフォーマンスの目的と制約とは独立に実装されている。
従来の並列ベンチマークと、複数のプラットフォームにわたるディープラーニング推論ベンチマークでSonicを評価します。
私たちの実験では、sonicを使ってノブ設定を制御した場合、アプリケーションのランタイム性能は最適なノブ設定が使われた場合よりも5.3%低く、sonicが事前知識なしに様々なランタイム設定の下で、最適化に近いノブ設定を素早く見つけることができることを示した。
関連論文リスト
- Qoncord: A Multi-Device Job Scheduling Framework for Variational Quantum Algorithms [11.321788037172466]
変分量子アルゴリズム(VQA)は、現在のノイズ中間スケール量子(NISQ)システムに対する有望な応用と考えられる。
VQAは、グローバルな最適解に収束するために、複数の最適化反復を必要とする。
クラウド内の各VQAタスクに対するジョブスケジューリングポリシは、非常に最適化されていない。
クラウド中心の課題に対処するための自動ジョブスケジューリングフレームワークであるQoncordを提案する。
論文 参考訳（メタデータ） (2024-09-19T03:24:24Z) - FuzzyFlow: Leveraging Dataflow To Find and Squash Program Optimization
Bugs [92.47146416628965]
FuzzyFlowはプログラム最適化をテストするために設計されたフォールトローカライゼーションとテストケース抽出フレームワークである。
我々は、データフロープログラム表現を活用して、完全に再現可能なシステム状態と最適化のエリア・オブ・エフェクトをキャプチャする。
テスト時間を削減するため,テスト入力を最小限に抑えるアルゴリズムを設計し,再計算のためのメモリ交換を行う。
論文 参考訳（メタデータ） (2023-06-28T13:00:17Z) - On Controller Tuning with Time-Varying Bayesian Optimization [74.57758188038375]
制御対象とその変更に関する適切な事前知識を用いて、時間変化最適化(TVBO)を用いて、変更環境におけるコントローラのオンラインチューニングを行う。
本研究では,不確実性注入(UI)を用いたTVBO戦略を提案する。
我々のモデルはTVBOの最先端手法よりも優れており、後悔の軽減と不安定なパラメータ構成の低減を実現している。
論文 参考訳（メタデータ） (2022-07-22T14:54:13Z) - Real-Time GPU-Accelerated Machine Learning Based Multiuser Detection for
5G and Beyond [70.81551587109833]
非線形ビームフォーミングフィルタは、大規模な接続を伴う定常シナリオにおいて、線形アプローチを著しく上回る。
主な課題の1つは、これらのアルゴリズムのリアルタイム実装である。
本稿では,大規模並列化によるAPSMに基づくアルゴリズムの高速化について検討する。
論文 参考訳（メタデータ） (2022-01-13T15:20:45Z) - Adaptive Low-Pass Filtering using Sliding Window Gaussian Processes [71.23286211775084]
ガウス過程回帰に基づく適応型低域通過フィルタを提案する。
本研究では,提案手法の誤差が一様境界であることを示す。
論文 参考訳（メタデータ） (2021-11-05T17:06:59Z) - Accelerating variational quantum algorithms with multiple quantum
processors [78.36566711543476]
変分量子アルゴリズム(VQA)は、特定の計算上の利点を得るために、短期量子マシンを利用する可能性がある。
現代のVQAは、巨大なデータを扱うために単独の量子プロセッサを使用するという伝統によって妨げられている、計算上のオーバーヘッドに悩まされている。
ここでは、この問題に対処するため、効率的な分散最適化手法であるQUDIOを考案する。
論文 参考訳（メタデータ） (2021-06-24T08:18:42Z) - Real Time Speech Enhancement in the Waveform Domain [99.02180506016721]
本稿では,ラップトップCPU上でリアルタイムに動作する生波形を用いた因果音声強調モデルを提案する。
提案モデルは、スキップ接続を持つエンコーダデコーダアーキテクチャに基づいている。
静止ノイズや非定常ノイズを含む様々な背景ノイズを除去することができる。
論文 参考訳（メタデータ） (2020-06-23T09:19:13Z) - The Snake Optimizer for Learning Quantum Processor Control Parameters [0.0]
学習手順には、高度に制約された天文学的な探索空間を持つ非次元システム問題が必要となる場合もある。
このような問題は、従来のキュービットが小さな制御では遅すぎるため、スケーラビリティの障害となる。
実際には、量子ゲートの最適化を最適化するためにSnakeが適用されている。
論文 参考訳（メタデータ） (2020-06-08T13:42:35Z) - Numeric optimization for configurable, parallel, error-robust entangling
gates in large ion registers [0.0]
本研究では, 閉じ込められた原子イオンに対するエンタングリングゲートのクラスについて検討し, 数値最適化手法を用いて, 広い範囲の高速かつ誤差の大きいゲート構造を創出することを示した。
提案手法では, イオン対, 完全多重イオンレジスタ, 大規模レジスタの多重イオンサブセット, 単一レジスタ内の並列演算を対象とする, 個別アドレス, 振幅, 位相変調制御を用いた数値最適化のためのフレームワークを提案する。
論文 参考訳（メタデータ） (2020-05-01T13:17:59Z) - An Energy-Aware Online Learning Framework for Resource Management in
Heterogeneous Platforms [16.94738988958929]
モバイルプラットフォームは、高速応答時間と最小エネルギー消費の矛盾した要件を満たす必要がある。
このニーズに対処するために、System-on-chipsは、アクティブコアの数や電圧/周波数レベルなど、さまざまな制御ノブを提供する。
オフラインで設計された制御ポリシーは、設計時に多くの潜在的な新しいアプリケーションが未知であるため、最適ではない。
論文 参考訳（メタデータ） (2020-03-20T22:59:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。