論文の概要: Neural Communication Systems with Bandwidth-limited Channel

• arxiv url: http://arxiv.org/abs/2003.13367v2
• Date: Wed, 1 Apr 2020 09:56:13 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-18 07:19:40.327465
• Title: Neural Communication Systems with Bandwidth-limited Channel
• Title（参考訳）: 帯域制限チャネルを用いたニューラル通信システム
• Authors: Karen Ullrich, Fabio Viola, Danilo Jimenez Rezende
• Abstract要約: 情報損失にもかかわらずメッセージを確実に送信することは情報理論の中核的な問題である。 本研究では,帯域幅制限チャネル(BWLC)を用いた符号化学習について検討する。
• 参考スコア（独自算出の注目度）: 9.332315420944836
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reliably transmitting messages despite information loss due to a noisy channel is a core problem of information theory. One of the most important aspects of real world communication, e.g. via wifi, is that it may happen at varying levels of information transfer. The bandwidth-limited channel models this phenomenon. In this study we consider learning coding with the bandwidth-limited channel (BWLC). Recently, neural communication models such as variational autoencoders have been studied for the task of source compression. We build upon this work by studying neural communication systems with the BWLC. Specifically,we find three modelling choices that are relevant under expected information loss. First, instead of separating the sub-tasks of compression (source coding) and error correction (channel coding), we propose to model both jointly. Framing the problem as a variational learning problem, we conclude that joint systems outperform their separate counterparts when coding is performed by flexible learnable function approximators such as neural networks. To facilitate learning, we introduce a differentiable and computationally efficient version of the bandwidth-limited channel. Second, we propose a design to model missing information with a prior, and incorporate this into the channel model. Finally, sampling from the joint model is improved by introducing auxiliary latent variables in the decoder. Experimental results justify the validity of our design decisions through improved distortion and FID scores.
• Abstract（参考訳）: ノイズチャネルによる情報損失にもかかわらず、信頼できるメッセージ送信は、情報理論の中核的な問題である。 現実世界のコミュニケーションの最も重要な側面の1つ、例えばwi-fiは、様々なレベルの情報転送で発生する可能性がある。 帯域幅制限チャネルはこの現象をモデル化する。 本研究では,帯域制限チャネル(bwlc)を用いた学習符号化について検討する。 近年,ソース圧縮の課題に対して,変分オートエンコーダなどのニューラル通信モデルが研究されている。 我々は,BWLCを用いたニューラル通信システムの研究により,この研究を基礎にしている。 具体的には、期待される情報損失に関係する3つのモデル選択を見出す。 まず,圧縮(ソースコーディング)と誤り訂正(チャネルコーディング)のサブタスクを分離する代わりに,両者を共同でモデル化することを提案する。 ニューラルネットワークのようなフレキシブルな学習可能な関数近似器によって符号化を行う場合、結合系は相違点よりも優れていると結論付けている。 学習を容易にするために,帯域幅制限チャネルの微分可能かつ計算効率の良いバージョンを提案する。 第2に,情報欠落を事前にモデル化し,これをチャネルモデルに組み込む設計を提案する。 そして、デコーダに補助的潜在変数を導入することにより、ジョイントモデルからのサンプリングを改善する。 実験結果は, 歪みとfidスコアの改善により, 設計決定の有効性を正当化する。

関連論文リスト

• Modeling of Time-varying Wireless Communication Channel with Fading and Shadowing [0.0]
  本稿では,ディープラーニングニューラルネットワークと混合密度ネットワークモデルを組み合わせて,受信電力の条件付き確率密度関数を導出する手法を提案する。 経路損失とノイズを伴う中上フェーディングチャネルモデルと対数正規シャドーイングチャネルモデルの実験により、新しいアプローチは従来のディープラーニングベースチャネルモデルよりも統計的に正確で、高速で、より堅牢であることが示された。
  論文  参考訳（メタデータ） (2024-05-13T21:30:50Z)
• Knowledge Distillation Based Semantic Communications For Multiple Users [10.770552656390038]
  本稿では,複数のユーザを対象としたセマンティックコミュニケーション(SemCom)システムについて考察する。 本稿では,トランスフォーマーベースのエンコーダデコーダをセマンティックエンコーダデコーダとして実装し,チャネルエンコーダデコーダとして完全に接続されたニューラルネットワークを実装した知識蒸留(KD)システムを提案する。 数値計算の結果,KDは予期せぬ干渉に適用した場合のロバスト性や一般化能力を大幅に向上し,モデルサイズを圧縮した場合の性能損失を低減できることがわかった。
  論文  参考訳（メタデータ） (2023-11-23T03:28:14Z)
• Semantics Alignment via Split Learning for Resilient Multi-User Semantic Communication [56.54422521327698]
  最近の意味コミュニケーションの研究は、ディープジョイントソースやチャネルコーディング(DeepJSCC)のようなニューラルネットワーク(NN)ベースのトランシーバに依存している。 従来のトランシーバとは異なり、これらのニューラルトランシーバは実際のソースデータとチャネルを使用してトレーニング可能であり、セマンティクスを抽出し通信することができる。 本稿では,分割学習(SL)と部分的NN微調整技術を活用する分散学習ベースソリューションを提案する。
  論文  参考訳（メタデータ） (2023-10-13T20:29:55Z)
• Dynamic Encoding and Decoding of Information for Split Learning in Mobile-Edge Computing: Leveraging Information Bottleneck Theory [1.1151919978983582]
  Split Learning(スプリットラーニング)は、MLモデルを2つの部分(エンコーダとデコーダ)に分割する、プライバシ保護の分散学習パラダイムである。 モバイルエッジコンピューティングでは、エンコーダがユーザ機器(UE)に、デコーダがエッジネットワークに、分割学習によってネットワーク機能を訓練することができる。 本稿では,送信リソース消費の動的バランスと,共有潜在表現の情報化を両立させるためのフレームワークとトレーニング機構を提案する。
  論文  参考訳（メタデータ） (2023-09-06T07:04:37Z)
• Toward Adaptive Semantic Communications: Efficient Data Transmission via Online Learned Nonlinear Transform Source-Channel Coding [11.101344530143303]
  深層学習モデルの過剰適合性を利用したオンライン学習型ジョイントソースとチャネルコーディング手法を提案する。 具体的には,市販の事前訓練型モデルを軽量なオンライン方式で展開し,ソースデータと環境領域の分散シフトに適応させる。 私たちはオーバーフィットの概念を極端に捉え、モデルや表現を個々のデータやチャネル状態インスタンスに適応させる実装フレンドリな一連のメソッドを提案します。
  論文  参考訳（メタデータ） (2022-11-08T16:00:27Z)
• High Fidelity Neural Audio Compression [92.4812002532009]
  我々は、ニューラルネットワークを利用した最先端のリアルタイム、高忠実、オーディオを導入する。 ストリーミングエンコーダ-デコーダアーキテクチャと、エンドツーエンドでトレーニングされた量子化潜在空間で構成されている。 単一マルチスケール・スペクトログラム・アドバイザリーを用いて、トレーニングを簡素化し、高速化する。
  論文  参考訳（メタデータ） (2022-10-24T17:52:02Z)
• Discrete Key-Value Bottleneck [95.61236311369821]
  ディープニューラルネットワークは、データストリームがi.d.d.であり、ラベル付きデータが豊富である分類タスクでうまく機能する。 この課題に対処した強力なアプローチの1つは、手軽に利用可能なデータ量に対する大規模なエンコーダの事前トレーニングと、タスク固有のチューニングである。 しかし、新しいタスクを考えると、多くの重みを微調整する必要があるため、エンコーダの重みを更新することは困難であり、その結果、以前のタスクに関する情報を忘れてしまう。 この問題に対処するモデルアーキテクチャを提案し,個別かつ学習可能なキー値符号のペアを含む離散的ボトルネックの上に構築する。
  論文  参考訳（メタデータ） (2022-07-22T17:52:30Z)
• Error Correction Code Transformer [92.10654749898927]
  本稿では,トランスフォーマーアーキテクチャを任意のブロック長で線形符号のソフトデコードに拡張することを提案する。 我々は,各チャネルの出力次元を高次元に符号化し,個別に処理すべきビット情報のより良い表現を行う。 提案手法は、トランスフォーマーの極端なパワーと柔軟性を示し、既存の最先端のニューラルデコーダを、その時間的複雑さのごく一部で大きなマージンで上回る。
  論文  参考訳（メタデータ） (2022-03-27T15:25:58Z)
• SignalNet: A Low Resolution Sinusoid Decomposition and Estimation Network [79.04274563889548]
  本稿では,正弦波数を検出するニューラルネットワークアーキテクチャであるSignalNetを提案する。 基礎となるデータ分布と比較して,ネットワークの結果を比較するための最悪の学習しきい値を導入する。 シミュレーションでは、我々のアルゴリズムは常に3ビットデータのしきい値を超えることができるが、しばしば1ビットデータのしきい値を超えることはできない。
  論文  参考訳（メタデータ） (2021-06-10T04:21:20Z)
• A Variational Auto-Encoder Approach for Image Transmission in Wireless Channel [4.82810058837951]
  本稿では,変分オートエンコーダの性能について検討し,その結果を標準オートエンコーダと比較する。 実験により,SSIMは受信機における再構成画像の品質を視覚的に向上することを示した。
  論文  参考訳（メタデータ） (2020-10-08T13:35:38Z)
• Data-Driven Symbol Detection via Model-Based Machine Learning [117.58188185409904]
  機械学習(ML)とモデルベースアルゴリズムを組み合わせた,検出設計のシンボル化を目的とした,データ駆動型フレームワークについてレビューする。 このハイブリッドアプローチでは、よく知られたチャネルモデルに基づくアルゴリズムをMLベースのアルゴリズムで拡張し、チャネルモデル依存性を除去する。 提案手法は, 正確なチャネル入出力統計関係を知らなくても, モデルベースアルゴリズムのほぼ最適性能が得られることを示す。
  論文  参考訳（メタデータ） (2020-02-14T06:58:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。