論文の概要: Error Resilient Collaborative Intelligence via Low-Rank Tensor
Completion
- arxiv url: http://arxiv.org/abs/2105.10341v1
- Date: Thu, 20 May 2021 16:47:25 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-29 18:39:23.755453
- Title: Error Resilient Collaborative Intelligence via Low-Rank Tensor
Completion
- Title(参考訳): 低ランクテンソル補完による誤り回復型協調知能
- Authors: Lior Bragilevsky and Ivan V. Baji\'c
- Abstract要約: ディープニューラルネットワーク(DNN)に基づいたアプリケーションを実行するエッジデバイス上での計算負荷を軽くする手段として、コラボレーションインテリジェンス(Collaborative Intelligence)が登場した。
本研究では,4つの低ランクテンソル補修法の有効性について検討した。
- 参考スコア(独自算出の注目度): 26.24508656138528
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the race to bring Artificial Intelligence (AI) to the edge, collaborative
intelligence has emerged as a promising way to lighten the computation load on
edge devices that run applications based on Deep Neural Networks (DNNs).
Typically, a deep model is split at a certain layer into edge and cloud
sub-models. The deep feature tensor produced by the edge sub-model is
transmitted to the cloud, where the remaining computationally intensive
workload is performed by the cloud sub-model. The communication channel between
the edge and cloud is imperfect, which will result in missing data in the deep
feature tensor received at the cloud side. In this study, we examine the
effectiveness of four low-rank tensor completion methods in recovering missing
data in the deep feature tensor. We consider both sparse tensors, such as those
produced by the VGG16 model, as well as non-sparse tensors, such as those
produced by ResNet34 model. We study tensor completion effectiveness in both
conplexity-constrained and unconstrained scenario.
- Abstract(参考訳): 人工知能(AI)をエッジに持ち込むレースにおいて、ディープニューラルネットワーク(DNN)に基づいたアプリケーションを実行するエッジデバイス上での計算負荷を軽くする方法として、コラボレーティブインテリジェンスが登場した。
通常、深いモデルは特定の層でエッジとクラウドのサブモデルに分割される。
エッジサブモデルによって生成された深い特徴テンソルはクラウドに送信され、残りの計算集約的なワークロードはクラウドサブモデルによって実行される。
エッジとクラウド間の通信チャネルは不完全であり、クラウド側で受信される深い特徴テンソルのデータが失われることになります。
本研究では, 4つの低ランクテンソル補完法が, 深層特徴テンソルにおける欠落データの復元に有効であることを示す。
我々は、VGG16モデルで生成されたようなスパーステンソルと、ResNet34モデルで生成されたようなスパーステンソルの両方を考慮する。
コンプレキシティ制約と非拘束シナリオの両方におけるテンソル補完の有効性について検討した。
関連論文リスト
- Representation Similarity: A Better Guidance of DNN Layer Sharing for Edge Computing without Training [3.792729116385123]
本稿では,表現類似度Sで導かれる表現をエッジで共有することで,新しいモデルマージ方式を提案する。
Pearson correlation Coefficient |r| > 0.94 than other metrics。
論文 参考訳(メタデータ) (2024-10-15T03:35:54Z) - Testing RadiX-Nets: Advances in Viable Sparse Topologies [0.9555447998395205]
ハイパーパラメタライズドディープニューラルネットワーク(DNN)のスパシフィケーションは、複雑なデータのより単純な表現を生成する。
DNNのサブグループであるRadiX-Netsは、ニューラルネットワークの欠如に対処するランタイムを維持している。
本稿では,スケーラブルモデルにおけるRadiX-Netsのテストスイートを提案する。
論文 参考訳(メタデータ) (2023-11-06T23:27:28Z) - Benign Overfitting for Two-layer ReLU Convolutional Neural Networks [60.19739010031304]
ラベルフリップ雑音を持つ2層ReLU畳み込みニューラルネットワークを学習するためのアルゴリズム依存型リスクバウンダリを確立する。
緩やかな条件下では、勾配降下によってトレーニングされたニューラルネットワークは、ほぼゼロに近いトレーニング損失とベイズ最適試験リスクを達成できることを示す。
論文 参考訳(メタデータ) (2023-03-07T18:59:38Z) - Improved Convergence Guarantees for Shallow Neural Networks [91.3755431537592]
勾配降下法により訓練された深度2ニューラルネットの収束度を世界最小とする。
我々のモデルには、二次損失関数による回帰、完全連結フィードフォワードアーキテクチャ、RelUアクティベーション、ガウスデータインスタンス、逆ラベルといった特徴がある。
彼らは、少なくとも我々のモデルでは、収束現象がNTK体制をはるかに超越していることを強く示唆している」。
論文 参考訳(メタデータ) (2022-12-05T14:47:52Z) - Low-Rank Tensor Function Representation for Multi-Dimensional Data
Recovery [52.21846313876592]
低ランクテンソル関数表現(LRTFR)は、無限解像度でメッシュグリッドを超えてデータを連続的に表現することができる。
テンソル関数に対する2つの基本的な概念、すなわちテンソル関数ランクとローランクテンソル関数分解を開発する。
提案手法は,最先端手法と比較して,提案手法の優越性と汎用性を裏付けるものである。
論文 参考訳(メタデータ) (2022-12-01T04:00:38Z) - Truncated tensor Schatten p-norm based approach for spatiotemporal
traffic data imputation with complicated missing patterns [77.34726150561087]
本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。
本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
論文 参考訳(メタデータ) (2022-05-19T08:37:56Z) - Self-Supervised Arbitrary-Scale Point Clouds Upsampling via Implicit
Neural Representation [79.60988242843437]
そこで本研究では,自己監督型および倍率フレキシブルな点雲を同時にアップサンプリングする手法を提案する。
実験結果から, 自己教師あり学習に基づく手法は, 教師あり学習に基づく手法よりも, 競争力や性能が向上することが示された。
論文 参考訳(メタデータ) (2022-04-18T07:18:25Z) - CALTeC: Content-Adaptive Linear Tensor Completion for Collaborative
Intelligence [24.192504570921624]
本稿では,CALTeC (Content-Adaptive Linear Completion) という手法を提案する。
提案手法は高速でデータ適応的であり,事前学習を必要としない。
論文 参考訳(メタデータ) (2021-06-10T06:45:52Z) - Online Limited Memory Neural-Linear Bandits with Likelihood Matching [53.18698496031658]
本研究では,探索学習と表現学習の両方が重要な役割を果たす課題を解決するために,ニューラルネットワークの帯域について検討する。
破滅的な忘れ込みに対して耐性があり、完全にオンラインである可能性の高いマッチングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-07T14:19:07Z) - Tensor-Train Networks for Learning Predictive Modeling of
Multidimensional Data [0.0]
有望な戦略は、物理的および化学的用途で非常に成功したテンソルネットワークに基づいています。
本研究では, 多次元回帰モデルの重みをテンソルネットワークを用いて学習し, 強力なコンパクト表現を実現することを示した。
TT形式の重みを計算力の低減で近似するための最小二乗を交互に行うアルゴリズムが提案されている。
論文 参考訳(メタデータ) (2021-01-22T16:14:38Z) - Anomaly Detection with Tensor Networks [2.3895981099137535]
テンソルネットワークのメモリと計算効率を利用して、原特徴数の次元指数で空間上の線形変換を学習する。
画像の局所性を利用していないにもかかわらず、画像データセット上で競合する結果を生成する。
論文 参考訳(メタデータ) (2020-06-03T20:41:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。