論文の概要: Channel-Wise MLPs Improve the Generalization of Recurrent Convolutional Networks
- arxiv url: http://arxiv.org/abs/2508.08298v1
- Date: Wed, 06 Aug 2025 14:44:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-13 21:07:34.15132
- Title: Channel-Wise MLPs Improve the Generalization of Recurrent Convolutional Networks
- Title(参考訳): Channel-Wise MLPは反復畳み込みネットワークの一般化を改善する
- Authors: Nathan Breslow,
- Abstract要約: 本稿では,マルチ層パーセプトロン(MLP)を用いたチャネルワイド混合が繰り返し畳み込みネットワークの性能に与える影響について検討する。
DAMPは,DARCの分布内分布と分布外分布の一般化において,精度の高い評価基準下で有意に優れていた。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: We investigate the impact of channel-wise mixing via multi-layer perceptrons (MLPs) on the generalization capabilities of recurrent convolutional networks. Specifically, we compare two architectures: DARC (Depth Aware Recurrent Convolution), which employs a simple recurrent convolutional structure, and DAMP (Depth Aware Multi-layer Perceptron), which extends DARC with a gated MLP for channel mixing. Using the Re-ARC benchmark, we find that DAMP significantly outperforms DARC in both in-distribution and out-of-distribution generalization under exact-match grading criteria. These results suggest that explicit channel mixing through MLPs enables recurrent convolutional networks to learn more robust and generalizable computational patterns. Our findings have implications for neural program synthesis and highlight the potential of DAMP as a target architecture for hypernetwork approaches.
- Abstract(参考訳): 本稿では,マルチ層パーセプトロン (MLP) を用いたチャネルワイド混合が繰り返し畳み込みネットワークの一般化能力に与える影響について検討する。
具体的には,DARC(Depth Aware Recurrent Convolution)とDAMP(Depth Aware Multi-layer Perceptron)の2つのアーキテクチャを比較した。
Re-ARC ベンチマークを用いて,DAMP は DARC の分布内および分布外の両方において, 精度の高い精度で DARC より優れることを示した。
これらの結果は、MLPによる明示的なチャネル混合により、再帰的な畳み込みネットワークがより堅牢で一般化可能な計算パターンを学習できるようになることを示唆している。
我々の研究は、ニューラルプログラム合成に影響を及ぼし、ハイパーネットワークアプローチのターゲットアーキテクチャとしてのDAMPの可能性を強調した。
関連論文リスト
- ReQuestNet: A Foundational Learning model for Channel Estimation [10.657960540744286]
本稿では,5G以降におけるチャネル推定(CE)のための新しいニューラルネットワーク,Recurrent Equivariant UERS Estimation Network(ReQuestNet)を提案する。
無線通信システムにおいて、リソースブロックの可変数(RB)、送信層の動的数、物理的リソースブロックグループ(PRG)バンドルサイズ(BS)、復調参照信号(DMRS)パターンを単一統一モデルで処理し、CEパイプラインを劇的に単純化するなど、いくつかの実践的な考察を取り入れている。
論文 参考訳(メタデータ) (2025-08-12T09:44:47Z) - ASMR: Activation-sharing Multi-resolution Coordinate Networks For Efficient Inference [6.005712471509875]
コーディネート・ネットワーク (Coordinate Network) または暗黙の神経表現 (INR) は、自然信号を高速に符号化する手法である。
本稿では,多分解能座標分解と階層変調を組み合わせたASMR座標ネットワークを提案する。
また,ASMRにより,バニラSIRENモデルのMACを最大500倍まで低減し,SIRENのベースラインよりも高い再現性が得られることを示す。
論文 参考訳(メタデータ) (2024-05-20T22:35:34Z) - Machine Learning-Based Channel Prediction for RIS-assisted MIMO Systems With Channel Aging [11.867884158309373]
再構成可能なインテリジェントサーフェス (RIS) は,第6世代 (6G) および通信システムを越えた性能向上のための有望な技術として登場した。
RISの受動的性質とその多数の反射要素は、チャネル推定プロセスに困難をもたらす。
本稿では、自己回帰(AR)予測器と統合された畳み込みニューラルネットワーク(CNN)に基づく、RIS支援マルチインプットマルチアウトプット(MIMO)システムのための拡張チャネル推定フレームワークを提案する。
論文 参考訳(メタデータ) (2024-05-09T19:45:49Z) - Joint Channel Estimation and Feedback with Masked Token Transformers in
Massive MIMO Systems [74.52117784544758]
本稿では,CSI行列内の固有周波数領域相関を明らかにするエンコーダデコーダに基づくネットワークを提案する。
エンコーダ・デコーダネットワーク全体がチャネル圧縮に使用される。
提案手法は,共同作業における現状のチャネル推定およびフィードバック技術より優れる。
論文 参考訳(メタデータ) (2023-06-08T06:15:17Z) - Multi-Head ReLU Implicit Neural Representation Networks [3.04585143845864]
暗黙的神経表現(INR)のための新しいマルチヘッド多層パーセプトロン(MLP)構造
本稿では,提案モデルが従来のReLUネットワークの特別なバイアスに悩まされず,優れた性能を有することを示す。
論文 参考訳(メタデータ) (2021-10-07T13:27:35Z) - Group Fisher Pruning for Practical Network Compression [58.25776612812883]
本稿では,様々な複雑な構造に応用可能な汎用チャネルプルーニング手法を提案する。
我々は、単一チャネルと結合チャネルの重要性を評価するために、フィッシャー情報に基づく統一されたメトリクスを導出する。
提案手法は,結合チャネルを含む任意の構造をプルークするために利用できる。
論文 参考訳(メタデータ) (2021-08-02T08:21:44Z) - Learning to Estimate RIS-Aided mmWave Channels [50.15279409856091]
そこでは,観測観測のために,既知の基地局とRIS位相制御行列を併用したアップリンクチャネル推定手法を提案する。
推定性能を向上し, トレーニングオーバーヘッドを低減するため, 深部展開法において, mmWaveチャネルの固有チャネル幅を生かした。
提案したディープ・アンフォールディング・ネットワーク・アーキテクチャは,トレーニングオーバーヘッドが比較的小さく,オンライン計算の複雑さも比較的小さく,最小二乗法(LS)法より優れていることが確認された。
論文 参考訳(メタデータ) (2021-07-27T06:57:56Z) - Over-and-Under Complete Convolutional RNN for MRI Reconstruction [57.95363471940937]
MR画像再構成のための最近のディープラーニングに基づく手法は、通常、汎用的なオートエンコーダアーキテクチャを利用する。
OUCR(Over-and-Under Complete Convolu?tional Recurrent Neural Network)を提案する。
提案手法は, トレーニング可能なパラメータの少ない圧縮されたセンシングと, 一般的なディープラーニングに基づく手法に対して, 大幅な改善を実現する。
論文 参考訳(メタデータ) (2021-06-16T15:56:34Z) - Deep Denoising Neural Network Assisted Compressive Channel Estimation
for mmWave Intelligent Reflecting Surfaces [99.34306447202546]
本稿では,mmWave IRSシステムに対するディープデノイングニューラルネットワークを用いた圧縮チャネル推定法を提案する。
我々はまず、受信チェーンをほとんど使わず、アップリンクのユーザ-IRSチャネルを推定するハイブリッド・パッシブ/アクティブIRSアーキテクチャを導入する。
完全チャネル行列は、圧縮センシングに基づいて限られた測定値から再構成することができる。
論文 参考訳(メタデータ) (2020-06-03T12:18:57Z) - Millimeter Wave Communications with an Intelligent Reflector:
Performance Optimization and Distributional Reinforcement Learning [119.97450366894718]
ミリ波基地局のダウンリンクマルチユーザ通信を最適化するための新しいフレームワークを提案する。
チャネル状態情報(CSI)をリアルタイムで計測するために,チャネル推定手法を開発した。
最適赤外反射を学習し、ダウンリンク能力の期待を最大化するために、分布強化学習(DRL)手法を提案する。
論文 参考訳(メタデータ) (2020-02-24T22:18:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。