論文の概要: ApproxIFER: A Model-Agnostic Approach to Resilient and Robust Prediction
Serving Systems
- arxiv url: http://arxiv.org/abs/2109.09868v1
- Date: Mon, 20 Sep 2021 22:29:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-22 14:10:37.754008
- Title: ApproxIFER: A Model-Agnostic Approach to Resilient and Robust Prediction
Serving Systems
- Title（参考訳）: ApproxIFER: レジリエントおよびロバスト予測サービングシステムに対するモデルに依存しないアプローチ
- Authors: Mahdi Soleymani, Ramy E. Ali, Hessam Mahdavifar, A. Salman Avestimehr
- Abstract要約: 一般的なストラグラー数を扱うために ApproxIFER を提案する。
多数のデータセットとモデルアーキテクチャに関する実験では、パリティモデルアプローチよりも最大58%精度が向上した。
- 参考スコア（独自算出の注目度）: 24.75623641870649
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to the surge of cloud-assisted AI services, the problem of designing
resilient prediction serving systems that can effectively cope with
stragglers/failures and minimize response delays has attracted much interest.
The common approach for tackling this problem is replication which assigns the
same prediction task to multiple workers. This approach, however, is very
inefficient and incurs significant resource overheads. Hence, a learning-based
approach known as parity model (ParM) has been recently proposed which learns
models that can generate parities for a group of predictions in order to
reconstruct the predictions of the slow/failed workers. While this
learning-based approach is more resource-efficient than replication, it is
tailored to the specific model hosted by the cloud and is particularly suitable
for a small number of queries (typically less than four) and tolerating very
few (mostly one) number of stragglers. Moreover, ParM does not handle Byzantine
adversarial workers. We propose a different approach, named Approximate Coded
Inference (ApproxIFER), that does not require training of any parity models,
hence it is agnostic to the model hosted by the cloud and can be readily
applied to different data domains and model architectures. Compared with
earlier works, ApproxIFER can handle a general number of stragglers and scales
significantly better with the number of queries. Furthermore, ApproxIFER is
robust against Byzantine workers. Our extensive experiments on a large number
of datasets and model architectures also show significant accuracy improvement
by up to 58% over the parity model approaches.
- Abstract（参考訳）: クラウド支援型AIサービスの急増により、ストラグラー/障害に効果的に対処し、応答遅延を最小限に抑えるレジリエントな予測サービスシステムの設計が課題となっている。
この問題に対処する一般的なアプローチは、複数のワーカーに同じ予測タスクを割り当てるレプリケーションである。
しかし、このアプローチは非常に非効率であり、リソースのオーバーヘッドを負う。
したがって、parity model(parm)と呼ばれる学習ベースのアプローチが最近提案されており、遅滞する労働者の予測を再構築するために、一連の予測に対してパリティを生成できるモデルを学習している。
この学習ベースのアプローチは、レプリケーションよりもリソース効率がよいが、クラウドがホストする特定のモデルに合わせて設計されており、特に少数のクエリ(通常4つ未満)に適しており、ごく少数のストラグラー(ほとんど1つ)に制限されている。
さらに、ParMはビザンツの敵の労働者を扱わない。
我々は,任意のパリティモデルのトレーニングを必要とせず,クラウドがホストするモデルに依存せず,異なるデータドメインやモデルアーキテクチャに容易に適用可能な,近似符号推論(approxifer)という別のアプローチを提案する。
以前の作業と比較すると、ApproxIFERは一般的なストラグラーの数を処理でき、クエリの数をはるかに改善できる。
さらに、ApproxIFERはビザンツの労働者に対して堅牢である。
多数のデータセットとモデルアーキテクチャに関する広範な実験では、パリティモデルアプローチに対して、精度が最大58%向上しています。
関連論文リスト
- A Federated Data Fusion-Based Prognostic Model for Applications with Multi-Stream Incomplete Signals [1.2277343096128712]
本稿では、複数のユーザが共同で障害時間予測モデルを構築することができるフェデレーション予測モデルを提案する。
数値解析により,提案モデルの性能は古典的非フェデレーション予測モデルと同一であることが示唆された。
論文 参考訳（メタデータ） (2023-11-13T17:08:34Z) - Structured Radial Basis Function Network: Modelling Diversity for
Multiple Hypotheses Prediction [51.82628081279621]
多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。
構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。
この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
論文 参考訳（メタデータ） (2023-09-02T01:27:53Z) - Window-Based Early-Exit Cascades for Uncertainty Estimation: When Deep
Ensembles are More Efficient than Single Models [5.0401589279256065]
アンサンブルは、アーキテクチャファミリ内の単一モデルをスケーリングするよりも、より計算的に(推論において)効率的であることを示す。
本研究では,不確実性推定に関連する課題に対して,これらの効率性の向上について検討する。
多数のネットワークアーキテクチャおよび不確実性タスクにわたるImageNetスケールデータの実験により、提案したウィンドウベースの早期実行アプローチは、より優れた不確実性計算トレードオフを実現することができることを示す。
論文 参考訳（メタデータ） (2023-03-14T15:57:54Z) - Scalable Estimation for Structured Additive Distributional Regression [0.0]
本稿では,勾配降下の考え方に基づいて,従来のノートパソコン上の任意の量のデータを扱うことができる新しいバックフィッティングアルゴリズムを提案する。
大規模なシミュレーション研究と、オーストリアにおける雷数予測の非常に困難でユニークな例を用いて、性能を評価した。
論文 参考訳（メタデータ） (2023-01-13T14:59:42Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳（メタデータ） (2022-06-15T19:10:35Z) - DualCF: Efficient Model Extraction Attack from Counterfactual
Explanations [57.46134660974256]
クラウドサービスプロバイダがMachine-Learning-as-a-Serviceプラットフォームをローンチした。
このような余分な情報は、必然的にクラウドモデルが、抽出攻撃に対してより脆弱になる。
本稿では,分類モデルを盗むためのクエリ効率を大幅に向上させる,新しい単純で効率的なクエリ手法を提案する。
論文 参考訳（メタデータ） (2022-05-13T08:24:43Z) - An Expectation-Maximization Perspective on Federated Learning [75.67515842938299]
フェデレーション学習は、データをデバイス上でプライベートにしながら、複数のクライアントにわたるモデルの分散トレーニングを記述する。
本稿では,サーバがクライアント固有のモデルパラメータに対して事前分布のパラメータを提供する階層的潜在変数モデルとして,サーバが設定したフェデレーション学習プロセスについて考察する。
我々は,単純なガウス先行とよく知られた期待最大化(EM)アルゴリズムのハードバージョンを用いて,そのようなモデルの学習は,フェデレーション学習環境における最も一般的なアルゴリズムであるFedAvgに対応することを示す。
論文 参考訳（メタデータ） (2021-11-19T12:58:59Z) - Kronecker Factorization for Preventing Catastrophic Forgetting in
Large-scale Medical Entity Linking [7.723047334864811]
医療分野では、タスクのシーケンシャルなトレーニングがモデルをトレーニングする唯一の方法である場合もあります。
破滅的な忘れ物、すなわち、新しいタスクのためにモデルが更新されたとき、以前のタスクの精度が大幅に低下します。
本稿では,この手法が3つのデータセットにまたがる医療機関の重要かつ実証的な課題に有効であることを示す。
論文 参考訳（メタデータ） (2021-11-11T01:51:01Z) - BODAME: Bilevel Optimization for Defense Against Model Extraction [10.877450596327407]
私たちは、サービスプロバイダのアタッカーを最も推測する前提の下でモデル抽出を防ぐために、逆の設定を検討します。
真のモデルの予測を用いてサロゲートモデルを定式化する。
勾配降下に基づくアルゴリズムを用いて学習されるより複雑なモデルに対して,トラクタブル変換とアルゴリズムを与える。
論文 参考訳（メタデータ） (2021-03-11T17:08:31Z) - Ambiguity in Sequential Data: Predicting Uncertain Futures with
Recurrent Models [110.82452096672182]
逐次データによる曖昧な予測を扱うために,Multiple hypothesis Prediction(MHP)モデルの拡張を提案する。
また、不確実性を考慮するのに適した曖昧な問題に対する新しい尺度も導入する。
論文 参考訳（メタデータ） (2020-03-10T09:15:42Z) - Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。
本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。
4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
論文 参考訳（メタデータ） (2020-02-27T10:22:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。