論文の概要: Modelling and analysis of the 8 filters from the "master key filters hypothesis" for depthwise-separable deep networks in relation to idealized receptive fields based on scale-space theory
- arxiv url: http://arxiv.org/abs/2509.12746v1
- Date: Tue, 16 Sep 2025 07:04:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-17 17:50:52.933991
- Title: Modelling and analysis of the 8 filters from the "master key filters hypothesis" for depthwise-separable deep networks in relation to idealized receptive fields based on scale-space theory
- Title(参考訳): 奥行き分離可能なディープネットワークのための「マスターキーフィルタ仮説」からの8つのフィルタのモデリングと解析 : スケール空間理論に基づく理想化された受容場との関係
- Authors: Tony Lindeberg, Zahra Babaiee, Peyman M. Kiasari,
- Abstract要約: まず,学習したフィルタの絶対値の重み付き平均値と重み付き分散量の観点から空間拡散測度を計算した。
次に,空間平滑化操作に適用した差分演算子の観点から,クラスタ化マスターキーフィルタ'をモデル化する。
- 参考スコア(独自算出の注目度): 7.990816079551592
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper presents the results of analysing and modelling a set of 8 ``master key filters'', which have been extracted by applying a clustering approach to the receptive fields learned in depthwise-separable deep networks based on the ConvNeXt architecture. For this purpose, we first compute spatial spread measures in terms of weighted mean values and weighted variances of the absolute values of the learned filters, which support the working hypotheses that: (i) the learned filters can be modelled by separable filtering operations over the spatial domain, and that (ii) the spatial offsets of the those learned filters that are non-centered are rather close to half a grid unit. Then, we model the clustered ``master key filters'' in terms of difference operators applied to a spatial smoothing operation in terms of the discrete analogue of the Gaussian kernel, and demonstrate that the resulting idealized models of the receptive fields show good qualitative similarity to the learned filters. This modelling is performed in two different ways: (i) using possibly different values of the scale parameters in the coordinate directions for each filter, and (ii) using the same value of the scale parameter in both coordinate directions. Then, we perform the actual model fitting by either (i) requiring spatial spread measures in terms of spatial variances of the absolute values of the receptive fields to be equal, or (ii) minimizing the discrete $l_1$- or $l_2$-norms between the idealized receptive field models and the learned filters. Complementary experimental results then demonstrate the idealized models of receptive fields have good predictive properties for replacing the learned filters by idealized filters in depthwise-separable deep networks, thus showing that the learned filters in depthwise-separable deep networks can be well approximated by discrete scale-space filters.
- Abstract(参考訳): 本稿では,ConvNeXtアーキテクチャに基づいて深度分離可能な深層ネットワークで学習した受容場に対して,クラスタリング手法を適用して抽出した8個の<master key filters''を解析・モデル化した結果について述べる。
この目的のために,まず,学習したフィルタの絶対値の重み付き平均値と重み付き分散を用いて空間拡散測度を計算する。
一 学習したフィルタは、空間領域上の分離可能なフィルタリング操作によりモデル化することができる。
(II) 中心ではないこれらの学習フィルタの空間オフセットは、格子単位の半分近くである。
次に,ガウス核の離散的類似性の観点から空間平滑化操作に適用した差分演算子を用いて,クラスタ化された ``master key filters'' をモデル化し,この結果の受容場の理想化モデルは,学習したフィルタと良好な定性的類似性を示すことを示した。
このモデリングは2つの異なる方法で行われます。
i) 各フィルタの座標方向におけるスケールパラメータの潜在的に異なる値を用いて、
(二)両座標方向のスケールパラメータの同じ値を使用する。
そして、実際のモデルフィッティングを行う。
一 受容界の絶対値の空間分散の点で空間拡散措置を必要とすること、又は
(ii) 理想化された受容場モデルと学習されたフィルタの間の離散的な$l_1$-または$l_2$-ノルムを最小化する。
相補的な実験結果から, 深度分離可能な深度ネットワークにおいて, 学習されたフィルタを理想化されたフィルタで置き換えることにより, 学習したフィルタを離散スケール空間のフィルタで適切に近似できることを示す。
関連論文リスト
- The Quest for Universal Master Key Filters in DS-CNNs [52.091987605762135]
深く分離可能な畳み込みネットワークが本質的に収束する8つの普遍フィルタが見つかる。
解析により、これらのフィルタは、発見された普遍集合の主に線型シフト(ax+b)であることが判明した。
注目すべきは、これらの8つのユニークなフリーズフィルタを持つネットワークは、80%以上のImageNet精度を達成することだ。
論文 参考訳(メタデータ) (2025-09-15T09:10:13Z) - Learning Optimal Filters Using Variational Inference [0.3749861135832072]
フィルタリングシステムのためのパラメータ化分析マップを学習するためのフレームワークを提案する。
原理的には、これはフィルタリング分布の近似をより良くし、従ってバイアスを小さくする。
この手法は、線形および非線形力学系をフィルタリングするアフィン解析マップにおいてゲイン行列の学習に利用できることを示す。
論文 参考訳(メタデータ) (2024-06-26T04:51:14Z) - Closed-form Filtering for Non-linear Systems [83.91296397912218]
我々は密度近似と計算効率の面でいくつかの利点を提供するガウスPSDモデルに基づく新しいフィルタのクラスを提案する。
本研究では,遷移や観測がガウスPSDモデルである場合,フィルタリングを効率的にクローズド形式で行うことができることを示す。
提案する推定器は, 近似の精度に依存し, 遷移確率の正則性に適応する推定誤差を伴って, 高い理論的保証を享受する。
論文 参考訳(メタデータ) (2024-02-15T08:51:49Z) - Decomposed Guided Dynamic Filters for Efficient RGB-Guided Depth
Completion [46.04264366475848]
RGB誘導深度補正は、スパース深度測定と対応するRGB画像から深度マップを予測することを目的としている。
ガイド付き動的フィルタは、RGB特徴から空間的に可変な深度分割可能な畳み込みフィルタを生成し、深度特徴を導出する。
本稿では,ガイド付き動的フィルタを空間的に共有されたコンポーネントに分解し,各空間位置におけるコンテンツ適応型適応器を乗じて分解する。
論文 参考訳(メタデータ) (2023-09-05T08:37:58Z) - Computational Doob's h-transforms for Online Filtering of Discretely
Observed Diffusions [65.74069050283998]
本研究では,Doobの$h$-transformsを近似する計算フレームワークを提案する。
提案手法は、最先端粒子フィルタよりも桁違いに効率的である。
論文 参考訳(メタデータ) (2022-06-07T15:03:05Z) - Deep Learning for the Benes Filter [91.3755431537592]
本研究では,メッシュのないニューラルネットワークによるベンズモデルの解の密度の表現に基づく新しい数値計算法を提案する。
ニューラルネットワークの領域選択におけるフィルタリングモデル方程式における非線形性の役割について論じる。
論文 参考訳(メタデータ) (2022-03-09T14:08:38Z) - Learning Versatile Convolution Filters for Efficient Visual Recognition [125.34595948003745]
本稿では,効率的な畳み込みニューラルネットワーク構築のための多目的フィルタを提案する。
本稿では,ネットワークの複雑性に関する理論的解析を行い,効率的な畳み込み手法を提案する。
ベンチマークデータセットとニューラルネットワークの実験結果は、我々の汎用フィルタが元のフィルタと同等の精度を達成できることを実証している。
論文 参考訳(メタデータ) (2021-09-20T06:07:14Z) - DNN-Based Topology Optimisation: Spatial Invariance and Neural Tangent
Kernel [7.106986689736828]
完全に接続されたニューラルネットワークによって生成される密度場を用いてSIMP法について検討し,その座標を入力とする。
我々は,DNNの使用が従来のSIMPのフィルタリング手法と類似したフィルタリング効果をもたらすことを示し,ニューラル・タンジェント・カーネル(NTK)によるフィルタについて述べる。
論文 参考訳(メタデータ) (2021-06-10T12:49:55Z) - Resolution learning in deep convolutional networks using scale-space
theory [31.275270391367425]
ディープ畳み込みニューラルネットワーク(CNN)の解像度は、一般的に、フィルタサイズを通じて受容野のサイズと、特徴写像上の層や強みのある畳み込みによって制限される。
我々は、ハードコードされた高解像度パラメータを廃止し、データから適切な解像度を学習することを提案する。
スケール空間理論を用いてフィルタの自己相似パラメトリゼーションを求め、ガウス微分フィルタの学習的組み合わせによりフィルタを近似するために、N-Jet: truncated Taylor級数を用いる。
論文 参考訳(メタデータ) (2021-06-07T08:23:02Z) - Unsharp Mask Guided Filtering [53.14430987860308]
本論文の目的は,フィルタ中の構造伝達の重要性を強調した画像フィルタリングである。
アンシャープマスキングにインスパイアされたガイドフィルタの新しい簡易な定式化を提案する。
我々の定式化は低域フィルタに先立ってフィルタを楽しみ、単一の係数を推定することで明示的な構造伝達を可能にする。
論文 参考訳(メタデータ) (2021-06-02T19:15:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。