論文の概要: Learning Task-Oriented Communication for Edge Inference: An Information
Bottleneck Approach
- arxiv url: http://arxiv.org/abs/2102.04170v1
- Date: Mon, 8 Feb 2021 12:53:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-09 15:19:56.824360
- Title: Learning Task-Oriented Communication for Edge Inference: An Information
Bottleneck Approach
- Title(参考訳): エッジ推論のためのタスク指向コミュニケーションの学習:情報基盤アプローチ
- Authors: Jiawei Shao, Yuyi Mao, and Jun Zhang
- Abstract要約: ローエンドエッジ装置は、ローカルデータサンプルの抽出された特徴ベクトルを強力なエッジサーバに送信して処理する。
帯域幅が限られているため、データを低遅延推論のための情報的かつコンパクトな表現に符号化することが重要である。
特徴抽出,ソース符号化,チャネル符号化を協調的に最適化する学習型通信方式を提案する。
- 参考スコア(独自算出の注目度): 3.983055670167878
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper investigates task-oriented communication for edge inference, where
a low-end edge device transmits the extracted feature vector of a local data
sample to a powerful edge server for processing. It is critical to encode the
data into an informative and compact representation for low-latency inference
given the limited bandwidth. We propose a learning-based communication scheme
that jointly optimizes feature extraction, source coding, and channel coding in
a task-oriented manner, i.e., targeting the downstream inference task rather
than data reconstruction. Specifically, we leverage an information bottleneck
(IB) framework to formalize a rate-distortion tradeoff between the
informativeness of the encoded feature and the inference performance. As the IB
optimization is computationally prohibitive for the high-dimensional data, we
adopt a variational approximation, namely the variational information
bottleneck (VIB), to build a tractable upper bound. To reduce the communication
overhead, we leverage a sparsity-inducing distribution as the variational prior
for the VIB framework to sparsify the encoded feature vector. Furthermore,
considering dynamic channel conditions in practical communication systems, we
propose a variable-length feature encoding scheme based on dynamic neural
networks to adaptively adjust the activated dimensions of the encoded feature
to different channel conditions. Extensive experiments evidence that the
proposed task-oriented communication system achieves a better rate-distortion
tradeoff than baseline methods and significantly reduces the feature
transmission latency in dynamic channel conditions.
- Abstract(参考訳): 本稿では,ローエンドエッジデバイスがローカルデータサンプルの抽出した特徴ベクトルを処理対象の強力なエッジサーバに送信するエッジ推論のためのタスク指向通信について検討する。
帯域幅が限られているため、低遅延推論のための情報的かつコンパクトな表現にデータをエンコードすることが重要である。
本研究では,データ再構成よりも下流推論タスクを対象として,特徴抽出,ソースコーディング,チャネルコーディングをタスク指向で協調的に最適化する学習ベース通信方式を提案する。
具体的には、インフォメーションボトルネック(IB)フレームワークを利用して、エンコードされた機能のインフォマティリティと推論パフォーマンスの間のレート歪みトレードオフを形式化します。
IB最適化は高次元データに対して計算的に禁止されるため、可変情報ボトルネック(VIB)という変分近似を採用してトラクタブルな上限を構築する。
通信オーバーヘッドを削減するため、VIBフレームワークの前の変動としてスパーシティ誘導分布を利用し、符号化された特徴ベクトルをスパース化します。
さらに,実用的通信システムにおける動的チャネル条件を考慮した動的ニューラルネットワークに基づく可変長特徴符号化方式を提案し,符号化特徴の活性化次元を異なるチャネル条件に適応的に調整する。
大規模実験により,提案したタスク指向通信システムは,ベースライン方式よりも高い速度歪みトレードオフを実現し,動的チャネル条件における特徴伝達遅延を著しく低減することが示された。
関連論文リスト
- Tackling Distribution Shifts in Task-Oriented Communication with Information Bottleneck [28.661084093544684]
本稿では,情報ボトルネック(IB)原理と不変リスク最小化(IRM)フレームワークに基づく新しいアプローチを提案する。
提案手法は,効率的な領域シフト一般化のための高機能を有するコンパクトかつ情報的特徴を抽出することを目的としている。
提案手法は最先端の手法より優れ、より優れたレート歪みトレードオフを実現することを示す。
論文 参考訳(メタデータ) (2024-05-15T17:07:55Z) - Communication-Efficient Framework for Distributed Image Semantic
Wireless Transmission [68.69108124451263]
IoTデバイスを用いたマルチタスク分散画像伝送のためのFederated Learning-based semantic communication (FLSC)フレームワーク。
各リンクは階層型視覚変換器(HVT)ベースの抽出器とタスク適応トランスレータで構成される。
チャネル状態情報に基づく多重出力多重出力伝送モジュール。
論文 参考訳(メタデータ) (2023-08-07T16:32:14Z) - Analysis and Optimization of Wireless Federated Learning with Data
Heterogeneity [72.85248553787538]
本稿では、データの不均一性を考慮した無線FLの性能解析と最適化と、無線リソース割り当てについて述べる。
ロス関数の最小化問題を、長期エネルギー消費と遅延の制約の下で定式化し、クライアントスケジューリング、リソース割り当て、ローカルトレーニングエポック数(CRE)を共同で最適化する。
実世界のデータセットの実験により、提案アルゴリズムは学習精度とエネルギー消費の点で他のベンチマークよりも優れていることが示された。
論文 参考訳(メタデータ) (2023-08-04T04:18:01Z) - Joint Task and Data Oriented Semantic Communications: A Deep Separate
Source-channel Coding Scheme [17.4244108919728]
データ伝達とセマンティックタスクの両方に役立てるために、共同データ圧縮とセマンティック分析がセマンティックコミュニケーションにおいて重要な問題となっている。
本稿では,共同作業とデータ指向のセマンティックコミュニケーションのためのディープ・ソースチャネル・コーディング・フレームワークを提案する。
深層学習モデルの過度な問題に対処するために,反復学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-02-27T08:34:37Z) - Semantic Communication Enabling Robust Edge Intelligence for
Time-Critical IoT Applications [87.05763097471487]
本稿では、時間クリティカルなIoTアプリケーションのためのセマンティック通信を用いて、堅牢なエッジインテリジェンスを設計することを目的とする。
本稿では,画像DCT係数が推定精度に与える影響を解析し,オフロードのためのチャネル非依存の有効性符号化を提案する。
論文 参考訳(メタデータ) (2022-11-24T20:13:17Z) - Toward Adaptive Semantic Communications: Efficient Data Transmission via
Online Learned Nonlinear Transform Source-Channel Coding [11.101344530143303]
深層学習モデルの過剰適合性を利用したオンライン学習型ジョイントソースとチャネルコーディング手法を提案する。
具体的には,市販の事前訓練型モデルを軽量なオンライン方式で展開し,ソースデータと環境領域の分散シフトに適応させる。
私たちはオーバーフィットの概念を極端に捉え、モデルや表現を個々のデータやチャネル状態インスタンスに適応させる実装フレンドリな一連のメソッドを提案します。
論文 参考訳(メタデータ) (2022-11-08T16:00:27Z) - Robust Information Bottleneck for Task-Oriented Communication with
Digital Modulation [31.39386509261528]
タスク指向通信は、主に学習ベースのジョイントソースチャネル符号化(JSCC)を用いており、通信効率のよいエッジ推論システムを設計することを目的としている。
チャネル変動に対する通信ロバスト性を改善するために,ロバスト情報ボトルネック (RIB) と呼ばれるロバスト符号化フレームワークを開発した。
提案するDT-JSCCは,通信遅延の低いベースライン方式よりも優れた推論性能を実現する。
論文 参考訳(メタデータ) (2022-09-21T14:21:14Z) - Task-Oriented Sensing, Computation, and Communication Integration for
Multi-Device Edge AI [108.08079323459822]
本稿では,AIモデルの分割推論と統合センシング通信(ISAC)を併用した,新しいマルチインテリジェントエッジ人工レイテンシ(AI)システムについて検討する。
推定精度は近似的だが抽出可能な計量、すなわち判別利得を用いて測定する。
論文 参考訳(メタデータ) (2022-07-03T06:57:07Z) - Adaptive Information Bottleneck Guided Joint Source and Channel Coding
for Image Transmission [132.72277692192878]
画像伝送には適応情報ボトルネック(IB)誘導ジョイントソースとチャネル符号化(AIB-JSCC)が提案されている。
AIB-JSCCの目的は、画像再構成品質を改善しながら伝送速度を下げることである。
実験の結果,AIB-JSCCは送信データ量を大幅に削減し,再現性を向上させることができることがわかった。
論文 参考訳(メタデータ) (2022-03-12T17:44:02Z) - Context-Preserving Instance-Level Augmentation and Deformable
Convolution Networks for SAR Ship Detection [50.53262868498824]
ランダムな方向と部分的な情報損失によるSAR画像のターゲット形状の変形は、SAR船の検出において必須の課題である。
ターゲット内の部分的な情報損失に頑健なディープネットワークをトレーニングするためのデータ拡張手法を提案する。
論文 参考訳(メタデータ) (2022-02-14T07:01:01Z) - Task-Oriented Communication for Multi-Device Cooperative Edge Inference [14.249444124834719]
協調エッジ推論は、単一デバイスの限られた感知能力を克服することができるが、通信オーバーヘッドを大幅に増加させ、過度の遅延を引き起こす可能性がある。
タスク指向方式で局所特徴抽出と分散特徴符号化を最適化する学習型通信方式を提案する。
論文 参考訳(メタデータ) (2021-09-01T03:56:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。