論文の概要: Coded-InvNet for Resilient Prediction Serving Systems

• arxiv url: http://arxiv.org/abs/2106.06445v1
• Date: Fri, 11 Jun 2021 15:02:11 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-14 18:45:16.191496
• Title: Coded-InvNet for Resilient Prediction Serving Systems
• Title（参考訳）: レジリエンス予測サービングシステムのためのCoded-InvNet
• Authors: Tuan Dinh, Kangwook Lee
• Abstract要約: Coded-InvNetは、ストラグラーやノード障害を優雅に処理できるレジリエントな予測サービスシステムの設計を行う。 実験の結果,特に計算リソースのオーバーヘッドが10%以下であれば,Coded-InvNetは既存の手法よりも優れていることがわかった。
• 参考スコア（独自算出の注目度）: 10.614792263028363
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Inspired by a new coded computation algorithm for invertible functions, we propose Coded-InvNet a new approach to design resilient prediction serving systems that can gracefully handle stragglers or node failures. Coded-InvNet leverages recent findings in the deep learning literature such as invertible neural networks, Manifold Mixup, and domain translation algorithms, identifying interesting research directions that span across machine learning and systems. Our experimental results show that Coded-InvNet can outperform existing approaches, especially when the compute resource overhead is as low as 10%. For instance, without knowing which of the ten workers is going to fail, our algorithm can design a backup task so that it can correctly recover the missing prediction result with an accuracy of 85.9%, significantly outperforming the previous SOTA by 32.5%.
• Abstract（参考訳）: 非可逆関数に対する新しい符号化計算アルゴリズムにインスパイアされた我々は、トラグラーやノード障害を優雅に扱えるレジリエントな予測サービスシステムを設計するための新しいアプローチとして、Coded-InvNetを提案する。 Coded-InvNetは、Invertible Neural Network、Manifold Mixup、ドメイン翻訳アルゴリズムといったディープラーニング文学における最近の知見を活用し、機械学習とシステムにまたがる興味深い研究方向を特定する。 実験の結果,特に計算リソースのオーバーヘッドが10%以下であれば,Coded-InvNetは既存の手法よりも優れていることがわかった。 例えば、10人の作業員のどれが失敗するかを知らずに、我々のアルゴリズムは、不足した予測結果を85.9%の精度で正確に回復できるようにバックアップタスクを設計することができ、以前のSOTAよりも32.5%向上した。

関連論文リスト

• Cryptocurrency Portfolio Optimization by Neural Networks [81.20955733184398]
  本稿では,これらの投資商品を活用するために,ニューラルネットワークに基づく効果的なアルゴリズムを提案する。 シャープ比を最大化するために、各アセットの割り当て重量を時間間隔で出力するディープニューラルネットワークを訓練する。 ネットワークの特定の資産に対するバイアスを規制する新たな損失項を提案し,最小分散戦略に近い割り当て戦略をネットワークに学習させる。
  論文  参考訳（メタデータ） (2023-10-02T12:33:28Z)
• Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
  ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。 我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。 我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
  論文  参考訳（メタデータ） (2023-10-02T03:25:32Z)
• A Generalization of Continuous Relaxation in Structured Pruning [0.3277163122167434]
  トレンドは、パラメータが増加するより深い、より大きなニューラルネットワークが、より小さなニューラルネットワークよりも高い精度を達成することを示している。 ネットワーク拡張, プルーニング, サブネットワーク崩壊, 削除のためのアルゴリズムを用いて, 構造化プルーニングを一般化する。 結果のCNNは計算コストのかかるスパース行列演算を使わずにGPUハードウェア上で効率的に実行される。
  論文  参考訳（メタデータ） (2023-08-28T14:19:13Z)
• CorrectNet: Robustness Enhancement of Analog In-Memory Computing for Neural Networks by Error Suppression and Compensation [4.570841222958966]
  本稿では,ニューラルネットワークの変動と雑音下での堅牢性を高める枠組みを提案する。 ニューラルネットワークの予測精度は、変動とノイズの下で1.69%以下から回復可能であることを示す。
  論文  参考訳（メタデータ） (2022-11-27T19:13:33Z)
• Predictive Coding: Towards a Future of Deep Learning beyond Backpropagation? [41.58529335439799]
  ディープニューラルネットワークのトレーニングに使用されるエラーアルゴリズムのバックプロパゲーションは、ディープラーニングの成功に不可欠である。 最近の研究は、このアイデアを、局所的な計算だけでニューラルネットワークを訓練できる汎用アルゴリズムへと発展させた。 等価ディープニューラルネットワークに対する予測符号化ネットワークの柔軟性が大幅に向上することを示す。
  論文  参考訳（メタデータ） (2022-02-18T22:57:03Z)
• Robustification of Online Graph Exploration Methods [59.50307752165016]
  我々は、古典的で有名なオンライングラフ探索問題の学習強化版について研究する。 本稿では,予測をよく知られたNearest Neighbor(NN)アルゴリズムに自然に統合するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-12-10T10:02:31Z)
• Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for sparse recover [87.28082715343896]
  我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。 我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。 提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
  論文  参考訳（メタデータ） (2021-10-20T06:15:45Z)
• Phase Retrieval using Expectation Consistent Signal Recovery Algorithm based on Hypernetwork [73.94896986868146]
  位相検索は現代の計算イメージングシステムにおいて重要な要素である。 近年のディープラーニングの進歩は、堅牢で高速なPRの新たな可能性を開いた。 我々は、既存の制限を克服するために、深層展開のための新しいフレームワークを開発する。
  論文  参考訳（メタデータ） (2021-01-12T08:36:23Z)
• ResPerfNet: Deep Residual Learning for Regressional Performance Modeling of Deep Neural Networks [0.16311150636417257]
  本稿では,ディープラーニングに基づくResPerfNetを提案する。この手法は,ニューラルネットワークの性能を予測するために,対象プラットフォーム上で得られた代表データセットを用いて残差ニューラルネットワークをトレーニングする。 実験の結果,ResPerfNetは個々のニューラルネットワーク層と,さまざまなプラットフォーム上でのフルネットワークモデルの実行時間を正確に予測できることがわかった。
  論文  参考訳（メタデータ） (2020-12-03T03:02:42Z)
• Learning Robust Feature Representations for Scene Text Detection [0.0]
  本稿では、条件付きログを最大化するために、損失から導かれるネットワークアーキテクチャを提案する。 潜伏変数の層を複数の層に拡張することで、ネットワークは大規模に堅牢な機能を学ぶことができる。 実験では,提案アルゴリズムはリコール法と精度の両面で最先端の手法を著しく上回っている。
  論文  参考訳（メタデータ） (2020-05-26T01:06:47Z)
• Neural Networks and Value at Risk [59.85784504799224]
  リスクしきい値推定における資産価値のモンテカルロシミュレーションを行う。 株式市場と長期債を試験資産として利用し、ニューラルネットワークについて検討する。 はるかに少ないデータでフィードされたネットワークは、大幅にパフォーマンスが悪くなっています。
  論文  参考訳（メタデータ） (2020-05-04T17:41:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。