論文の概要: CNet: A Complex-Valued Deep Learning Framework with Wirtinger Autodifferentiation and FFT--Hadamard Convolution
- arxiv url: http://arxiv.org/abs/2610.08592v1
- Date: Tue, 06 Oct 2026 15:57:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:30.098651
- Title: CNet: A Complex-Valued Deep Learning Framework with Wirtinger Autodifferentiation and FFT--Hadamard Convolution
- Title(参考訳): CNet: Wirtinger AutodifferentiationとFFT-Adamard畳み込みを備えた複合価値ディープラーニングフレームワーク
- Abstract要約: CNetは、深層複素数値ニューラルネットワーク(CVNN)の構築とトレーニングのためのC++/CUDAフレームワークである
ネットワークは複雑なカスケードであり、しばしばユニタリ(DFT)である。
ベースレイヤの上に、IDを学習可能な複雑な畳み込みネットワークに変換する信号処理プリミティブを追加します。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: CNet is a C++/CUDA framework for building and training deep complex-valued neural networks (CVNNs) and, more generally, for optimizing complex-valued functions by gradient descent with Wirtinger (CR-calculus) derivatives. It takes a physics-native stance: a network is a cascade of complex -- and often unitary (the DFT) -- operations acting on an amplitude vector, and classification is a Born-rule measurement $p_k = |z_k|^2 / \|z\|^2$ rather than a softmax over real logits. Every layer ships a CPU reference and a CUDA kernel checked against finite differences, and the computation graph is cloned across the batch for GPU execution. On top of the base layers we add signal-processing primitives that turn the identity conv(x,k) = IFFT(FFT(x) . FFT(k)) into a learnable complex convolutional network, together with a true-Adam optimizer and a reduced-memory inference mode. We report three studies. First, a fully complex-valued, FNet-style causal sequence model built on a new $O(N \log N)$ causal Fourier mixer -- a triangular-masked DFT evaluated by a Bluestein / chirp-z factorization: once properly tuned it matches or exceeds a parameter-matched real-valued causal FNet on character-level language modeling, reaching the real model's converged quality in under half the training steps. Second and third, bottleneck analyses on radio-modulation classification (RML2016.10a) and the Fourier phase problem of coherent-diffraction imaging, which isolate exactly where complex-valued networks still need new operators. Across all three the complex formulation provably learns the physically correct structure. Code: https://github.com/crasmarum/CNet
- Abstract(参考訳): CNetは、深層複素数値ニューラルネットワーク(CVNN)の構築とトレーニングのためのC++/CUDAフレームワークであり、より一般的には、Wirtinger(CR-calculus)誘導体による勾配降下による複素数値関数の最適化のためのものである。
ネットワークは複素のカスケードであり、しばしばユニタリ(DFT)の演算は振幅ベクトルに作用し、分類はボルンルール測度$p_k = |z_k|^2 / \|z\|^2$である。
各レイヤはCPU参照とCUDAカーネルを有限差分でチェックし、計算グラフはGPU実行のためにバッチ全体でクローンされる。
ベースレイヤの上に、IDをconv(x,k) = IFFT(FFT(x) にする信号処理プリミティブを追加します。
FFT(k))は学習可能な複雑な畳み込みネットワークに、真のアダム最適化器と縮小メモリ推論モードと共に組み込む。
私たちは3つの研究を報告します。
まず、新しい$O(N \log N)$ causal Fourier mixer - Bluestein / chirp-z factorizationによって評価された三角形のマッシュアップDFT - パラメータマッチングされた実値の因果FNetとパラメータマッチングされた実値の因果FNetが一致し、トレーニングステップの半分以下で実際のモデルの収束品質に達する。
第2と第3に、ラジオ変調分類(RML2016.10a)のボトルネック分析とコヒーレント回折イメージングのフーリエ位相問題(英語版)は、複雑な評価されたネットワークがまだ新しい演算子を必要とする場所を正確に分離している。
これら3つの複雑な定式化は、物理的に正しい構造を確実に学習する。
コード:https://github.com/crasmarum/CNet
関連論文リスト
- Fourier Feature Pyramids for Physics-Informed Neural Networks [47.75068288153803]
偏微分方程式(PDE)を解くための改良されたニューラルネットワークアーキテクチャを提案する。
Bandlimited Embedding with Interpolated Grid Network (特集:Bandlimited Embedding with Interpolated Grid Network)
我々は,PDEベンチマークにおいて,最先端のPINN手法よりも少ないパラメータを用いて,ベニグレットがはるかに精度の高い解を見つけることを示した。
論文 参考訳(メタデータ) (2026-05-22T23:12:56Z) - When Attention Beats Fourier: Multi-Scale Transformers for PDE Solving on Irregular Domains [0.0]
msatは複素幾何学問題に対する最先端の一般化を実現する。
textbfMulti-Scale Attention Transformer (msat)は、ソリューション履歴をトークンシーケンスとしてエンコードし、エンドツーエンドにトレーニングする。
論文 参考訳(メタデータ) (2026-05-08T15:23:13Z) - When Bayesian Tensor Completion Meets Multioutput Gaussian Processes: Functional Universality and Rank Learning [53.17227599983122]
関数テンソル分解は実数値インデックスを用いて多次元データを解析することができる。
そこで本研究では,Right-Revealing Functional Low-rank tensor completion (RR-F)法を提案する。
連続多次元信号に対するモデルの普遍近似特性を確立する。
論文 参考訳(メタデータ) (2025-12-25T03:15:52Z) - INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。
$mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。
大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
論文 参考訳(メタデータ) (2025-11-16T20:14:28Z) - F-INR: Functional Tensor Decomposition for Implicit Neural Representations [7.183424522250937]
Implicit Representation (INR) は、ニューラルネットワークを用いて離散信号を連続的に微分可能な関数に符号化する強力なツールとして登場した。
機能的分解によりINR学習を再構築し,高次元タスクを軽量な軸特化サブネットワークに分割するフレームワークF-INRを提案する。
論文 参考訳(メタデータ) (2025-03-27T13:51:31Z) - Factorizers for Distributed Sparse Block Codes [45.29870215671697]
分散ブロック符号(SBC)を高速かつ高精度に分解する手法を提案する。
我々の反復分解器は、しきい値に基づく非線形活性化、条件付きランダムサンプリング、および $ell_infty$-based similarity metricを導入している。
CIFAR-100, ImageNet-1K, RAVENデータセット上での4つの深層CNNアーキテクチャの実現可能性を示す。
論文 参考訳(メタデータ) (2023-03-24T12:31:48Z) - Low PAPR MIMO-OFDM Design Based on Convolutional Autoencoder [20.544993155126967]
ピーク対平均電力比(mathsfPAPR$)削減と波形設計のための新しい枠組みを提案する。
畳み込みオートコーダ(mathsfCAE$)アーキテクチャが提示される。
1つのトレーニングされたモデルが、幅広いSNRレベルにわたって、$mathsfPAPR$の削減、スペクトル設計、および$mathsfMIMO$の検出のタスクをカバーしていることを示す。
論文 参考訳(メタデータ) (2023-01-11T11:35:10Z) - SVNet: Where SO(3) Equivariance Meets Binarization on Point Cloud
Representation [65.4396959244269]
本論文は,3次元学習アーキテクチャを構築するための一般的なフレームワークを設計することによる課題に対処する。
提案手法はPointNetやDGCNNといった一般的なバックボーンに適用できる。
ModelNet40、ShapeNet、および実世界のデータセットであるScanObjectNNの実験では、この手法が効率、回転、精度の間の大きなトレードオフを達成することを示した。
論文 参考訳(メタデータ) (2022-09-13T12:12:19Z) - Low-complexity Approximate Convolutional Neural Networks [1.7368964547487395]
本稿では,学習された畳み込みニューラルネットワーク(ConvNet)の計算複雑性を最小化する手法を提案する。
この考え方は、与えられたConvNetのすべての要素を計算複雑性を極端に削減できる効率的な近似で近似することである。
このような低複雑さ構造は、低消費電力で効率的なハードウェア設計の道を開く。
論文 参考訳(メタデータ) (2022-07-29T21:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。