論文の概要: GPCA: A Probabilistic Framework for Gaussian Process Embedded Channel Attention

• arxiv url: http://arxiv.org/abs/2003.04575v2
• Date: Tue, 10 Aug 2021 07:52:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-24 20:34:51.071989
• Title: GPCA: A Probabilistic Framework for Gaussian Process Embedded Channel Attention
• Title（参考訳）: GPCA:ガウスプロセス組み込みチャネル注意のための確率的フレームワーク
• Authors: Jiyang Xie, Dongliang Chang, Zhanyu Ma, Guoqiang Zhang and Jun Guo
• Abstract要約: 本稿では,ガウスプロセス組み込みチャネルアテンション(GPCA)モジュールを提案する。 GPCAモジュールを効率よく実装し、CNNのエンドツーエンドトレーニングに統合することができる。 実験により提案したGPCAモジュールの性能を実証した。
• 参考スコア（独自算出の注目度）: 30.813037508690527
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Channel attention mechanisms have been commonly applied in many visual tasks for effective performance improvement. It is able to reinforce the informative channels as well as to suppress the useless channels. Recently, different channel attention modules have been proposed and implemented in various ways. Generally speaking, they are mainly based on convolution and pooling operations. In this paper, we propose Gaussian process embedded channel attention (GPCA) module and further interpret the channel attention schemes in a probabilistic way. The GPCA module intends to model the correlations among the channels, which are assumed to be captured by beta distributed variables. As the beta distribution cannot be integrated into the end-to-end training of convolutional neural networks (CNNs) with a mathematically tractable solution, we utilize an approximation of the beta distribution to solve this problem. To specify, we adapt a Sigmoid-Gaussian approximation, in which the Gaussian distributed variables are transferred into the interval [0,1]. The Gaussian process is then utilized to model the correlations among different channels. In this case, a mathematically tractable solution is derived. The GPCA module can be efficiently implemented and integrated into the end-to-end training of the CNNs. Experimental results demonstrate the promising performance of the proposed GPCA module. Codes are available at https://github.com/PRIS-CV/GPCA.
• Abstract（参考訳）: チャネルアテンション機構は、多くのビジュアルタスクにおいて、効果的なパフォーマンス改善のために一般的に適用されている。 情報チャネルを強化するだけでなく、無駄なチャネルを抑えることもできる。 近年,様々な方法で異なるチャネルアテンションモジュールが提案され,実装されている。 一般的には、それらは主に畳み込みとプール操作に基づいている。 本稿では,gaussian process embedded channel attention (gpca)モジュールを提案し,チャネルアテンションスキームを確率論的に解釈する。 GPCAモジュールは、ベータ分散変数によってキャプチャされると考えられるチャネル間の相関をモデル化することを目的としている。 畳み込みニューラルネットワーク(CNN)のエンドツーエンドトレーニングに,数学的に抽出可能な解を組み込むことができないため,この問題を解決するために,ベータ分布の近似を利用する。 具体的には、ガウス分布変数を区間 [0,1] に転送するsgmoid-gaussian近似を適用する。 ガウス過程は、異なるチャネル間の相関をモデル化するために用いられる。 この場合、数学的に扱いやすい解が導出される。 GPCAモジュールを効率よく実装し、CNNのエンドツーエンドトレーニングに統合することができる。 実験により提案したGPCAモジュールの性能を実証した。 コードはhttps://github.com/PRIS-CV/GPCAで入手できる。

関連論文リスト

• Diffusion Models for Accurate Channel Distribution Generation [19.80498913496519]
  強力な生成モデルはチャネル分布を正確に学習することができる。 これにより、チャネルの物理的測定の繰り返しコストを削減できる。 結果として得られる差別化チャネルモデルは、勾配ベースの最適化を可能にすることにより、ニューラルエンコーダのトレーニングをサポートする。
  論文  参考訳（メタデータ） (2023-09-19T10:35:54Z)
• Bayesian Over-the-Air FedAvg via Channel Driven Stochastic Gradient Langevin Dynamics [41.58760966569499]
  本稿では,無線システムにおけるFALDを実現するプロトコルである無線FALDを提案する。 WFALDはモンテカルロ更新のためのオーバー・ザ・エア計算とチャネル駆動サンプリングを統合している。 解析と実験により、信号対雑音比が十分に大きい場合には、モンテカルロサンプリングのためにチャネルノイズを完全に再利用できることが示されている。
  論文  参考訳（メタデータ） (2023-05-07T00:10:55Z)
• Learning End-to-End Channel Coding with Diffusion Models [22.258823033281356]
  我々は、生成モデル、特に、画像ベースタスクにおける生成の質の向上を示す拡散モデルと呼ばれる新しい有望な手法に焦点を当てた。 無線E2Eシナリオでは拡散モデルが利用可能であり,Wasserstein GANと同等に動作すると同時に,より安定したトレーニング手順と,テスト時の一般化能力も向上することを示す。
  論文  参考訳（メタデータ） (2023-02-03T13:11:57Z)
• Content Popularity Prediction Based on Quantized Federated Bayesian Learning in Fog Radio Access Networks [76.16527095195893]
  キャッシュ可能なフォグラジオアクセスネットワーク(F-RAN)におけるコンテンツ人気予測問題について検討する。 そこで本研究では,コンテンツ要求パターンをモデル化するためのガウス過程に基づく回帰器を提案する。 我々はベイズ学習を利用してモデルパラメータを訓練する。
  論文  参考訳（メタデータ） (2022-06-23T03:05:12Z)
• Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
  乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。 NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
  論文  参考訳（メタデータ） (2021-10-26T10:45:25Z)
• Robust MIMO Detection using Hypernetworks with Learned Regularizers [28.917679125825]
  本稿では,シンボル誤り率(SER)とチャネルの一般性とのバランスをとろうとする手法を提案する。 提案手法は,特定のチャネル上で正常に動作するニューラルネットワークベースの検出器のパラメータを生成するハイパーネットワークに基づいている。
  論文  参考訳（メタデータ） (2021-10-13T22:07:13Z)
• Learning to Perform Downlink Channel Estimation in Massive MIMO Systems [72.76968022465469]
  大規模マルチインプット・マルチアウトプット(MIMO)システムにおけるダウンリンク(DL)チャネル推定について検討する。 一般的なアプローチは、チャネル硬化によって動機付けられた推定値として平均値を使用することである。 本稿では2つの新しい推定法を提案する。
  論文  参考訳（メタデータ） (2021-09-06T13:42:32Z)
• GDP: Stabilized Neural Network Pruning via Gates with Differentiable Polarization [84.57695474130273]
  ゲートベースまたは重要度に基づくプルーニング手法は、重要度が最小のチャネルを削除することを目的としている。 GDPは、各チャネルのオン・アンド・オフを制御するために、ベルやホイッスルのない畳み込み層の前に接続することができる。 CIFAR-10とImageNetデータセットを用いて行った実験は、提案したGDPが最先端のパフォーマンスを達成することを示している。
  論文  参考訳（メタデータ） (2021-09-06T03:17:10Z)
• Improving predictions of Bayesian neural nets via local linearization [79.21517734364093]
  ガウス・ニュートン近似は基礎となるベイズニューラルネットワーク(BNN)の局所線形化として理解されるべきである。 この線形化モデルを後部推論に使用するので、元のモデルではなく、この修正モデルを使用することも予測すべきである。 この修正された予測を"GLM predictive"と呼び、Laplace近似の共通不適合問題を効果的に解決することを示す。
  論文  参考訳（メタデータ） (2020-08-19T12:35:55Z)
• Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
  サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。 本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。 本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
  論文  参考訳（メタデータ） (2020-06-18T14:24:05Z)
• Capacity of Continuous Channels with Memory via Directed Information Neural Estimator [15.372626012233736]
  本研究では,チャネルをブラックボックスとして扱う新しいキャパシティ推定アルゴリズムを提案する。 このアルゴリズムは、(i)雑音変数をチャネル入力分布に形作るニューラル分布変換器(NDT)モデルと、(ii)現在のNDTモデルの通信速度を推定するニューラルDI推定器(DINE)の2つの主成分を有する。
  論文  参考訳（メタデータ） (2020-03-09T14:53:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。