論文の概要: Remote Multilinear Compressive Learning with Adaptive Compression
- arxiv url: http://arxiv.org/abs/2109.01184v1
- Date: Thu, 2 Sep 2021 19:24:03 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-06 13:53:43.839471
- Title: Remote Multilinear Compressive Learning with Adaptive Compression
- Title(参考訳): 適応圧縮を用いたリモートマルチ線形圧縮学習
- Authors: Dat Thanh Tran, Moncef Gabbouj, Alexandros Iosifidis
- Abstract要約: MultiIoT Compressive Learning (MCL)は、多次元信号に対する効率的な信号取得および学習パラダイムである。
MCLモデルにそのような機能を実現するための新しい最適化手法を提案する。
- 参考スコア(独自算出の注目度): 107.87219371697063
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multilinear Compressive Learning (MCL) is an efficient signal acquisition and
learning paradigm for multidimensional signals. The level of signal compression
affects the detection or classification performance of a MCL model, with higher
compression rates often associated with lower inference accuracy. However,
higher compression rates are more amenable to a wider range of applications,
especially those that require low operating bandwidth and minimal energy
consumption such as Internet-of-Things (IoT) applications. Many communication
protocols provide support for adaptive data transmission to maximize the
throughput and minimize energy consumption. By developing compressive sensing
and learning models that can operate with an adaptive compression rate, we can
maximize the informational content throughput of the whole application. In this
paper, we propose a novel optimization scheme that enables such a feature for
MCL models. Our proposal enables practical implementation of adaptive
compressive signal acquisition and inference systems. Experimental results
demonstrated that the proposed approach can significantly reduce the amount of
computations required during the training phase of remote learning systems but
also improve the informational content throughput via adaptive-rate sensing.
- Abstract(参考訳): MCL(Multilinear Compressive Learning)は,多次元信号の効率的な取得・学習パラダイムである。
信号圧縮のレベルは、mclモデルの検出または分類性能に影響し、高い圧縮率はしばしば低い推論精度と関連付けられる。
しかし、より広い範囲のアプリケーション、特にIoT(Internet-of-Things)アプリケーションのような低動作帯域と最小のエネルギー消費を必要とするアプリケーションでは、より高い圧縮速度がより有効である。
多くの通信プロトコルは、スループットを最大化しエネルギー消費を最小化するために適応データ伝送をサポートする。
適応圧縮速度で動作可能な圧縮センシングおよび学習モデルを開発することにより、アプリケーション全体の情報コンテンツスループットを最大化することができる。
本稿では,このような機能をmclモデルに適用可能な新しい最適化手法を提案する。
本提案では,適応圧縮信号取得と推論システムの実装を実現する。
実験の結果,提案手法は,遠隔学習システムの学習段階で必要な計算量を大幅に削減できるだけでなく,適応レートセンシングによる情報コンテンツのスループットも向上できることがわかった。
関連論文リスト
- Communication-Efficient Distributed Learning with Local Immediate Error
Compensation [95.6828475028581]
本稿では,局所的即時誤差補償SGD (LIEC-SGD) 最適化アルゴリズムを提案する。
LIEC-SGDは、コンバージェンスレートまたは通信コストのいずれにおいても、以前の研究よりも優れている。
論文 参考訳(メタデータ) (2024-02-19T05:59:09Z) - Communication-Efficient Federated Learning through Adaptive Weight
Clustering and Server-Side Distillation [10.541541376305245]
Federated Learning(FL)は、複数のデバイスにわたるディープニューラルネットワークの協調トレーニングのための有望なテクニックである。
FLは、トレーニング中に繰り返しサーバー・クライアント間の通信によって、過剰な通信コストによって妨げられる。
本稿では,動的重みクラスタリングとサーバ側知識蒸留を組み合わせた新しいアプローチであるFedCompressを提案する。
論文 参考訳(メタデータ) (2024-01-25T14:49:15Z) - ASVD: Activation-aware Singular Value Decomposition for Compressing
Large Language Models [29.91507136828938]
本稿では,Large Language Models (LLMs) 圧縮のためのポストホック学習自由圧縮パラダイムについて検討する。
本稿では,これらの制約に対処するために,アクティベーション対応特異値分解(ASVD)と呼ばれるトレーニングフリーアプローチを提案する。
実験により、ASVDは推論能力を失うことなく、ネットワークを10%から20%圧縮できることが示された。
論文 参考訳(メタデータ) (2023-12-10T08:41:24Z) - Learning Quantization in LDPC Decoders [14.37550972719183]
均一雑音の付加として量子化効果を模倣する浮動小数点代理モデルを提案する。
次に、深層学習に基づく手法を適用し、メッセージビット幅を最適化する。
平均メッセージ量子化ビット幅3.1ビットにおける浮動小数点復号の0.2dB以内の誤り率性能を報告する。
論文 参考訳(メタデータ) (2022-08-10T07:07:54Z) - Performance Indicator in Multilinear Compressive Learning [106.12874293597754]
マルチリニア圧縮学習(MCL)フレームワークは,多次元信号を扱う際の知覚と学習のステップを効率的に最適化するために提案された。
本稿では,入力信号の分解能,圧縮された測定値数,MCLの学習性能の関係を解析する。
論文 参考訳(メタデータ) (2020-09-22T11:27:50Z) - Optimization-driven Deep Reinforcement Learning for Robust Beamforming
in IRS-assisted Wireless Communications [54.610318402371185]
Intelligent Reflecting Surface (IRS)は、マルチアンテナアクセスポイント(AP)から受信機へのダウンリンク情報伝達を支援する有望な技術である。
我々は、APのアクティブビームフォーミングとIRSのパッシブビームフォーミングを共同最適化することで、APの送信電力を最小化する。
過去の経験からビームフォーミング戦略に適応できる深層強化学習(DRL)手法を提案する。
論文 参考訳(メタデータ) (2020-05-25T01:42:55Z) - Multilinear Compressive Learning with Prior Knowledge [106.12874293597754]
マルチリニア圧縮学習(MCL)フレームワークは、マルチリニア圧縮センシングと機械学習をエンドツーエンドシステムに統合する。
MCLの背後にある主要なアイデアは、下流学習タスクの信号から重要な特徴を捉えることのできるテンソル部分空間の存在を仮定することである。
本稿では、上記の要件、すなわち、関心の信号が分離可能なテンソル部分空間をどうやって見つけるかという、2つの要件に対処する新しい解決策を提案する。
論文 参考訳(メタデータ) (2020-02-17T19:06:05Z) - End-to-End Facial Deep Learning Feature Compression with Teacher-Student
Enhancement [57.18801093608717]
本稿では,ディープニューラルネットワークの表現と学習能力を活用することで,エンドツーエンドの特徴圧縮手法を提案する。
特に、抽出した特徴量を、レート歪みコストを最適化することにより、エンドツーエンドでコンパクトに符号化する。
提案モデルの有効性を顔の特徴で検証し, 圧縮性能を高いレート精度で評価した。
論文 参考訳(メタデータ) (2020-02-10T10:08:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。