論文の概要: Equivariant Wavelets: Fast Rotation and Translation Invariant Wavelet
Scattering Transforms
- arxiv url: http://arxiv.org/abs/2104.11244v1
- Date: Thu, 22 Apr 2021 18:00:01 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-26 12:59:16.289505
- Title: Equivariant Wavelets: Fast Rotation and Translation Invariant Wavelet
Scattering Transforms
- Title(参考訳): 等変ウェーブレット:高速回転と変換不変ウェーブレット散乱変換
- Authors: Andrew K. Saydjari, Douglas P. Finkbeiner
- Abstract要約: 画像統計に対称性を与えることは、人間の解釈性を改善し、一般化を助け、寸法減少をもたらす。
本稿では,高速かつ変換不変かつ回転不変なウェーブレット散乱ネットワークを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Wavelet scattering networks, which are convolutional neural networks (CNNs)
with fixed filters and weights, are promising tools for image analysis.
Imposing symmetry on image statistics can improve human interpretability, aid
in generalization, and provide dimension reduction. In this work, we introduce
a fast-to-compute, translationally invariant and rotationally equivariant
wavelet scattering network (EqWS) and filter bank of wavelets (triglets). We
demonstrate the interpretability and quantify the invariance/equivariance of
the coefficients, briefly commenting on difficulties with implementing scale
equivariance. On MNIST, we show that training on a rotationally invariant
reduction of the coefficients maintains rotational invariance when generalized
to test data and visualize residual symmetry breaking terms. Rotation
equivariance is leveraged to estimate the rotation angle of digits and
reconstruct the full rotation dependence of each coefficient from a single
angle. We benchmark EqWS with linear classifiers on EMNIST and CIFAR-10/100,
introducing a new second-order, cross-color channel coupling for the color
images. We conclude by comparing the performance of an isotropic reduction of
the scattering coefficients and RWST, a previous coefficient reduction, on an
isotropic classification of magnetohydrodynamic simulations with astrophysical
relevance.
- Abstract(参考訳): フィルタと重みが固定された畳み込みニューラルネットワーク(CNN)であるウェーブレット散乱ネットワークは、画像解析に有望なツールである。
画像統計に対称性を加えることで、人間の解釈性が向上し、一般化を助け、次元を減らすことができる。
本研究では,高速かつ翻訳不変かつ回転不変なウェーブレット散乱ネットワーク(EqWS)とウェーブレットのフィルタバンク(トリグレット)を導入する。
本稿では, 係数の非分散/同分散を定量化し, スケール等分散化の難しさを簡潔に解説する。
MNISTでは、係数の回転不変化に関するトレーニングは、テストデータに一般化された場合の回転不変性を維持し、残留対称性の破れ項を可視化する。
回転同分散を利用して桁の回転角を推定し、各係数の回転依存性を1つの角度から再構築する。
我々はEMNISTとCIFAR-10/100の線形分類器でEqWSをベンチマークし、カラー画像に新しい2階のクロスカラーチャネル結合を導入する。
本研究では, 散乱係数とRWSTの等方的低減性能を, 天体物理学的関係を考慮した磁気流体力学シミュレーションの等方的分類で比較した。
関連論文リスト
- A Probabilistic Approach to Learning the Degree of Equivariance in Steerable CNNs [5.141137421503899]
ステアブル畳み込みニューラルネットワーク(SCNN)は、幾何学的対称性をモデル化することによってタスク性能を向上させる。
しかし、未知あるいは様々な対称性は、過剰に制約された重量と性能を低下させる可能性がある。
本稿では,SCNNの等価度を学習するための確率的手法を提案する。
論文 参考訳(メタデータ) (2024-06-06T10:45:19Z) - Variance-Reducing Couplings for Random Features [57.73648780299374]
ランダム機能(RF)は、機械学習においてカーネルメソッドをスケールアップする一般的なテクニックである。
ユークリッド空間と離散入力空間の両方で定義されるRFを改善するための結合を求める。
パラダイムとしての分散還元の利点と限界について、驚くほどの結論に達した。
論文 参考訳(メタデータ) (2024-05-26T12:25:09Z) - Symmetry Breaking and Equivariant Neural Networks [17.740760773905986]
我々は「緩和された同注入」という新しい概念を導入する。
我々は、この緩和を同変多層パーセプトロン(E-MLP)に組み込む方法を示す。
対称性の破れの関連性は、様々な応用領域で議論される。
論文 参考訳(メタデータ) (2023-12-14T15:06:48Z) - Weight fluctuations in (deep) linear neural networks and a derivation of the inverse-variance flatness relation [6.122833099916154]
単層および二層線形ニューラルネットワークの定常的(時間的)訓練条件について検討する。
我々は, 層間結合を重み変動の異方性の発生源として同定した。
本稿では,最近観測された線形ニューラルネットワークモデルにおける逆分散-平坦性関係の解析的導出について述べる。
論文 参考訳(メタデータ) (2023-11-23T17:30:31Z) - On the Computation of the Gaussian Rate-Distortion-Perception Function [10.564071872770146]
平均二乗誤差(MSE)歪み下における多変量ガウス音源に対するレート歪み知覚関数(RDPF)の計算について検討した。
我々は、関連するアルゴリズムの実現、および収束と収束のキャラクタリゼーションの速度を提供する。
計算結果を数値シミュレーションで相関させ,既存の結果に関連付ける。
論文 参考訳(メタデータ) (2023-11-15T18:34:03Z) - Non Commutative Convolutional Signal Models in Neural Networks:
Stability to Small Deformations [111.27636893711055]
非可換畳み込みフィルタのフィルタ特性と安定性について検討する。
この結果は,グループニューラルネットワーク,マルチグラフニューラルネットワーク,四元系ニューラルネットワークに直接影響する。
論文 参考訳(メタデータ) (2023-10-05T20:27:22Z) - Entropy Transformer Networks: A Learning Approach via Tangent Bundle
Data Manifold [8.893886200299228]
本稿では,CNNアーキテクチャの設計における画像変換の高精度かつ高速なアプローチについて述べる。
データ多様体分布を補間する新しいエントロピーSTN(ESTN)を提案する。
挑戦的なベンチマークの実験は、提案されたESTNがコンピュータビジョンタスクの範囲で予測精度を向上させることを示している。
論文 参考訳(メタデータ) (2023-07-24T04:21:51Z) - A Variational Perspective on Solving Inverse Problems with Diffusion
Models [101.831766524264]
逆タスクは、データ上の後続分布を推測するものとして定式化することができる。
しかし、拡散過程の非線形的かつ反復的な性質が後部を引き付けるため、拡散モデルではこれは困難である。
そこで我々は,真の後続分布を近似する設計手法を提案する。
論文 参考訳(メタデータ) (2023-05-07T23:00:47Z) - Deep Neural Networks with Efficient Guaranteed Invariances [77.99182201815763]
我々は、性能改善の問題、特にディープニューラルネットワークのサンプル複雑性に対処する。
群同変畳み込みは同変表現を得るための一般的なアプローチである。
本稿では,各ストリームが異なる変換に不変なマルチストリームアーキテクチャを提案する。
論文 参考訳(メタデータ) (2023-03-02T20:44:45Z) - Learning Discretized Neural Networks under Ricci Flow [51.36292559262042]
低精度重みとアクティベーションからなる離散ニューラルネットワーク(DNN)について検討する。
DNNは、訓練中に微分不可能な離散関数のために無限あるいはゼロの勾配に悩まされる。
論文 参考訳(メタデータ) (2023-02-07T10:51:53Z) - Generalizing Convolutional Neural Networks for Equivariance to Lie
Groups on Arbitrary Continuous Data [52.78581260260455]
任意の特定のリー群からの変換に同値な畳み込み層を構築するための一般的な方法を提案する。
同じモデルアーキテクチャを画像、ボール・アンド・スティック分子データ、ハミルトン力学系に適用する。
論文 参考訳(メタデータ) (2020-02-25T17:40:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。