論文の概要: Harmonic Convolutional Networks based on Discrete Cosine Transform
- arxiv url: http://arxiv.org/abs/2001.06570v3
- Date: Sat, 9 Apr 2022 18:27:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-10 04:52:50.749824
- Title: Harmonic Convolutional Networks based on Discrete Cosine Transform
- Title(参考訳): 離散コサイン変換に基づく高調波畳み込みネットワーク
- Authors: Matej Ulicny, Vladimir A. Krylov, Rozenn Dahyot
- Abstract要約: 畳み込みニューラルネットワーク(CNN)は、特徴空間内の局所相関パターンをキャプチャするためにフィルタを学習する。
離散コサイン変換(DCT)によって定義されるプリセットスペクトルフィルタの組み合わせとして,これらのフィルタを学習することを提案する。
提案するDCTベースの高調波ブロックは、従来の畳み込み層を置き換え、新しいCNNアーキテクチャや既存のCNNアーキテクチャの部分的にあるいは完全に調和したバージョンを生成する。
- 参考スコア(独自算出の注目度): 7.228285747845778
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Convolutional neural networks (CNNs) learn filters in order to capture local
correlation patterns in feature space. We propose to learn these filters as
combinations of preset spectral filters defined by the Discrete Cosine
Transform (DCT). Our proposed DCT-based harmonic blocks replace conventional
convolutional layers to produce partially or fully harmonic versions of new or
existing CNN architectures. Using DCT energy compaction properties, we
demonstrate how the harmonic networks can be efficiently compressed by
truncating high-frequency information in harmonic blocks thanks to the
redundancies in the spectral domain. We report extensive experimental
validation demonstrating benefits of the introduction of harmonic blocks into
state-of-the-art CNN models in image classification, object detection and
semantic segmentation applications.
- Abstract(参考訳): 畳み込みニューラルネットワーク(CNN)は、特徴空間内の局所相関パターンをキャプチャするためにフィルタを学習する。
本稿では,これらのフィルタを離散コサイン変換(DCT)によって定義されたプリセットスペクトルフィルタの組み合わせとして学習することを提案する。
提案するdctベースの高調波ブロックは、従来の畳み込み層を置き換え、新しいcnnアーキテクチャの一部または完全高調波バージョンを生成する。
DCTエネルギー圧縮特性を用いて、スペクトル領域の冗長性により、高周波数情報をハーモニックブロックにトラッピングすることで、高調波ネットワークを効率的に圧縮できることを示す。
画像分類,オブジェクト検出,セマンティクスセグメンテーションアプリケーションにおいて,最先端cnnモデルに高調波ブロックを導入することの利点を実証する広範な実験的検証を行った。
関連論文リスト
- ASWT-SGNN: Adaptive Spectral Wavelet Transform-based Self-Supervised
Graph Neural Network [20.924559944655392]
本稿では,適応スペクトルウェーブレット変換を用いた自己教師付きグラフニューラルネットワーク(ASWT-SGNN)を提案する。
ASWT-SGNNは高密度スペクトル領域におけるフィルタ関数を正確に近似し、コストの高い固有分解を避ける。
ノード分類タスクにおける最先端モデルに匹敵するパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-12-10T03:07:42Z) - Spatial-Frequency U-Net for Denoising Diffusion Probabilistic Models [89.76587063609806]
画素空間の代わりにウェーブレット空間における拡散確率モデル(DDPM)を視覚合成のために検討した。
ウェーブレット信号を明示的にモデル化することで、我々のモデルは複数のデータセット上でより高品質な画像を生成することができる。
論文 参考訳(メタデータ) (2023-07-27T06:53:16Z) - Tangent Bundle Convolutional Learning: from Manifolds to Cellular
Sheaves and Back [114.01902073621577]
この畳み込み操作に基づいて,タンジェントバンドルフィルタとタンジェントバンドルニューラルネットワーク(TNN)を定義する。
タンジェントバンドルフィルタは、スカラー多様体フィルタ、グラフフィルタ、標準畳み込みフィルタを連続的に一般化するスペクトル表現を許容する。
提案したアーキテクチャが様々な学習課題に与える影響を数値的に評価する。
論文 参考訳(メタデータ) (2023-03-20T17:57:15Z) - Learnable Filters for Geometric Scattering Modules [64.03877398967282]
最近提案された幾何散乱変換の緩和に基づく新しいグラフニューラルネットワーク(GNN)モジュールを提案する。
我々の学習可能な幾何散乱(LEGS)モジュールは、ウェーブレットの適応的なチューニングを可能にし、学習された表現に帯域通過の特徴が現れるように促す。
論文 参考訳(メタデータ) (2022-08-15T22:30:07Z) - Hierarchical Spherical CNNs with Lifting-based Adaptive Wavelets for
Pooling and Unpooling [101.72318949104627]
本稿では, 階層型畳み込みニューラルネットワーク(HS-CNN)の新たな枠組みを提案し, プールやアンプールのための適応球面ウェーブレットを学習する。
LiftHS-CNNは、画像レベルのタスクとピクセルレベルのタスクの両方において、より効率的な階層的特徴学習を実現する。
論文 参考訳(メタデータ) (2022-05-31T07:23:42Z) - Continuous Conditional Random Field Convolution for Point Cloud
Segmentation [12.154944192318936]
条件付きランダムフィールド(CRF)は通常、ラベルの一貫性を促進するためにラベル空間の離散モデルとして定式化される。
本稿では,CRFを特徴空間に再検討し,特徴構造をよく捉えることができる点雲セグメンテーションを提案する。
各種クラウドベンチマーク実験により,提案手法の有効性とロバスト性を示した。
論文 参考訳(メタデータ) (2021-10-12T15:35:38Z) - Rate Distortion Characteristic Modeling for Neural Image Compression [59.25700168404325]
エンドツーエンドの最適化機能は、ニューラルイメージ圧縮(NIC)の優れた損失圧縮性能を提供する。
異なるモデルは、R-D空間の異なる点に到達するために訓練される必要がある。
深層ネットワークと統計モデルを用いてNICのR-D挙動を記述するために,本質的な数学的関数の定式化に努めている。
論文 参考訳(メタデータ) (2021-06-24T12:23:05Z) - DNN-Based Topology Optimisation: Spatial Invariance and Neural Tangent
Kernel [7.106986689736828]
完全に接続されたニューラルネットワークによって生成される密度場を用いてSIMP法について検討し,その座標を入力とする。
我々は,DNNの使用が従来のSIMPのフィルタリング手法と類似したフィルタリング効果をもたらすことを示し,ニューラル・タンジェント・カーネル(NTK)によるフィルタについて述べる。
論文 参考訳(メタデータ) (2021-06-10T12:49:55Z) - Data-Driven Learning of Geometric Scattering Networks [74.3283600072357]
最近提案された幾何散乱変換の緩和に基づく新しいグラフニューラルネットワーク(GNN)モジュールを提案する。
我々の学習可能な幾何散乱(LEGS)モジュールは、ウェーブレットの適応的なチューニングを可能にし、学習された表現に帯域通過の特徴が現れるように促す。
論文 参考訳(メタデータ) (2020-10-06T01:20:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。