論文の概要: MambaJSCC: Adaptive Deep Joint Source-Channel Coding with Generalized State Space Model
- arxiv url: http://arxiv.org/abs/2409.16592v1
- Date: Wed, 25 Sep 2024 03:37:51 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-27 05:45:19.479018
- Title: MambaJSCC: Adaptive Deep Joint Source-Channel Coding with Generalized State Space Model
- Title(参考訳): MambaJSCC: 一般化された状態空間モデルによる適応的な深部結合型ソースチャネル符号化
- Authors: Tong Wu, Zhiyong Chen, Meixia Tao, Yaping Sun, Xiaodong Xu, Wenjun Zhang, Ping Zhang,
- Abstract要約: MambaJSCCは、計算とパラメータのオーバーヘッドを低くして最先端のパフォーマンスを達成する。
我々は,チャネル状態情報(CSI)をGSSMの初期状態に注入し,そのネイティブ応答を利用するCSI-ReST法を設計する。
実験の結果,MambaJSCCは既存のJ SCC法より優れるだけでなく,パラメータサイズ,計算オーバーヘッド,推論遅延を大幅に低減することがわかった。
- 参考スコア(独自算出の注目度): 44.01221953073462
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Lightweight and efficient neural network models for deep joint source-channel coding (JSCC) are crucial for semantic communications. In this paper, we propose a novel JSCC architecture, named MambaJSCC, that achieves state-of-the-art performance with low computational and parameter overhead. MambaJSCC utilizes the visual state space model with channel adaptation (VSSM-CA) blocks as its backbone for transmitting images over wireless channels, where the VSSM-CA primarily consists of the generalized state space models (GSSM) and the zero-parameter, zero-computational channel adaptation method (CSI-ReST). We design the GSSM module, leveraging reversible matrix transformations to express generalized scan expanding operations, and theoretically prove that two GSSM modules can effectively capture global information. We discover that GSSM inherently possesses the ability to adapt to channels, a form of endogenous intelligence. Based on this, we design the CSI-ReST method, which injects channel state information (CSI) into the initial state of GSSM to utilize its native response, and into the residual state to mitigate CSI forgetting, enabling effective channel adaptation without introducing additional computational and parameter overhead. Experimental results show that MambaJSCC not only outperforms existing JSCC methods (e.g., SwinJSCC) across various scenarios but also significantly reduces parameter size, computational overhead, and inference delay.
- Abstract(参考訳): ディープジョイントソースチャネル符号化(JSCC)のための軽量で効率的なニューラルネットワークモデルは、セマンティック通信に不可欠である。
本稿では,計算量とパラメータのオーバーヘッドを少なくして最先端性能を実現する新しいJSCCアーキテクチャであるMambaJSCCを提案する。
MambaJSCCは、チャネル適応(VSSM-CA)ブロックをバックボーンとして、一般的な状態空間モデル(GSSM)とゼロパラメータゼロ計算チャネル適応法(CSI-ReST)で構成される。
我々はGSSMモジュールを設計し、可逆行列変換を利用して一般化スキャン拡張操作を表現し、2つのGSSMモジュールがグローバル情報を効果的に取得できることを理論的に証明する。
GSSMは本質的に内因性知能の一種であるチャネルに適応する能力を持っていることが判明した。
そこで我々は,チャネル状態情報(CSI)をGSSMの初期状態に注入し,その応答を生かし,CSIの忘れを軽減し,新たな計算およびパラメータオーバーヘッドを導入することなく,効果的なチャネル適応を可能にするCSI-ReST法を設計した。
実験結果から,MambaJSCCは既存のJSCCメソッド(例えばSwinJSCC)を様々なシナリオで上回るだけでなく,パラメータサイズ,計算オーバーヘッド,推論遅延を大幅に低減することがわかった。
関連論文リスト
- Joint Source-Channel Coding: Fundamentals and Recent Progress in
Practical Designs [6.059175509501795]
ジョイントソースチャネル符号化(JSCC)は、圧縮とチャネルコーディングを最適化することで、エンド・ツー・エンドのアプローチを提供する。
本稿では, J SCC の情報理論の基礎について概説し, 数十年にわたる実践的 J SCC 設計の実態調査を行い, 実用システムへの導入が限定された理由について論じる。
論文 参考訳(メタデータ) (2024-09-26T06:10:29Z) - Empowering Snapshot Compressive Imaging: Spatial-Spectral State Space Model with Across-Scanning and Local Enhancement [51.557804095896174]
AsLE-SSMという,グローバルな局所的バランスの取れたコンテキストエンコーディングとチャネル間相互作用の促進に空間スペクトルSSMを用いる状態空間モデルを導入する。
実験の結果,ASLE-SSMは既存の最先端手法よりも優れており,推定速度はTransformerベースのMSTより2.4倍速く,パラメータの0.12(M)を節約できることがわかった。
論文 参考訳(メタデータ) (2024-08-01T15:14:10Z) - Robust Image Semantic Coding with Learnable CSI Fusion Masking over MIMO Fading Channels [44.15994739018646]
既存の意味コミュニケーションフレームワークは、主に単一出力の単一出力ガウスチャネルやレイリーフェディングチャネルを考察している。
学習可能なCSI融合セマンティックコミュニケーションフレームワークを提案し,CSIはセマンティック抽出器によってサイド情報として扱われる。
実験結果は従来のスキームや最先端のSwin TransformerベースのセマンティックコミュニケーションフレームワークよりもLCFSCの方が優れていることを示す。
論文 参考訳(メタデータ) (2024-05-30T08:23:17Z) - CU-Mamba: Selective State Space Models with Channel Learning for Image Restoration [7.292363114816646]
本稿では,二つの状態空間モデルフレームワークをU-Netアーキテクチャに組み込んだChannel-Aware U-Shaped Mambaモデルを紹介する。
実験は、CU-Mambaが既存の最先端手法よりも優れていることを検証する。
論文 参考訳(メタデータ) (2024-04-17T22:02:22Z) - Joint Channel Estimation and Feedback with Masked Token Transformers in
Massive MIMO Systems [74.52117784544758]
本稿では,CSI行列内の固有周波数領域相関を明らかにするエンコーダデコーダに基づくネットワークを提案する。
エンコーダ・デコーダネットワーク全体がチャネル圧縮に使用される。
提案手法は,共同作業における現状のチャネル推定およびフィードバック技術より優れる。
論文 参考訳(メタデータ) (2023-06-08T06:15:17Z) - Binarized Spectral Compressive Imaging [59.18636040850608]
ハイパースペクトル画像(HSI)再構成のための既存のディープラーニングモデルは、優れた性能を実現するが、膨大なメモリと計算資源を持つ強力なハードウェアを必要とする。
本稿では,BiSRNet(Biarized Spectral-Redistribution Network)を提案する。
BiSRNetは,提案手法を用いてベースモデルのバイナライズを行う。
論文 参考訳(メタデータ) (2023-05-17T15:36:08Z) - IMDeception: Grouped Information Distilling Super-Resolution Network [7.6146285961466]
SISR(Single-Image-Super-Resolution)は、ディープラーニング手法の最近の進歩の恩恵を受けている古典的なコンピュータビジョン問題である。
本稿では,機能集約のためのIICモジュールの代替として,GPRM(Global Progressive Refinement Module)を提案する。
また,1秒あたりのパラメータ数や浮動小数点演算量(FLOPS)をさらに削減するために,GIDB(Grouped Information Distilling Blocks)を提案する。
実験の結果,提案したネットワークは,パラメータ数やFLOPSが限られているにもかかわらず,最先端モデルと同等に動作していることがわかった。
論文 参考訳(メタデータ) (2022-04-25T06:43:45Z) - Deep Learning-based Resource Allocation For Device-to-Device
Communication [66.74874646973593]
デバイス間通信(D2D)を用いたマルチチャネルセルシステムにおいて,リソース割り当ての最適化のためのフレームワークを提案する。
任意のチャネル条件に対する最適な資源配分戦略をディープニューラルネットワーク(DNN)モデルにより近似する深層学習(DL)フレームワークを提案する。
シミュレーションの結果,提案手法のリアルタイム性能を低速で実現できることが確認された。
論文 参考訳(メタデータ) (2020-11-25T14:19:23Z) - Cross-Attention in Coupled Unmixing Nets for Unsupervised Hyperspectral
Super-Resolution [79.97180849505294]
本稿では,HSIの空間分解能を高めるために,CUCaNetというクロスアテンション機構を備えた新しい結合型アンミックスネットワークを提案する。
3つの広く使われているHS-MSデータセットに対して、最先端のHSI-SRモデルと比較実験を行った。
論文 参考訳(メタデータ) (2020-07-10T08:08:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。