論文の概要: AdjointBackMapV2: Precise Reconstruction of Arbitrary CNN Unit's
Activation via Adjoint Operators
- arxiv url: http://arxiv.org/abs/2110.01736v2
- Date: Thu, 9 Nov 2023 12:26:41 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-10 19:27:24.977879
- Title: AdjointBackMapV2: Precise Reconstruction of Arbitrary CNN Unit's
Activation via Adjoint Operators
- Title(参考訳): AdjointBackMapV2: 随伴演算子による任意CNNユニットの活性化の精密再構築
- Authors: Qing Wan, Siu Wun Cheung, Yoonsuck Choe
- Abstract要約: 本稿では,高次重みを拡張入力空間にマッピングし,有効超曲面を再構成する随伴演算子に基づくアルゴリズムを提案する。
CIFAR-10とCIFAR-100データセットに基づく実験結果を示す。
- 参考スコア(独自算出の注目度): 3.7676096626244973
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Adjoint operators have been found to be effective in the exploration of CNN's
inner workings [1]. However, the previous no-bias assumption restricted its
generalization. We overcome the restriction via embedding input images into an
extended normed space that includes bias in all CNN layers as part of the
extended space and propose an adjoint-operator-based algorithm that maps
high-level weights back to the extended input space for reconstructing an
effective hypersurface. Such hypersurface can be computed for an arbitrary unit
in the CNN, and we prove that this reconstructed hypersurface, when multiplied
by the original input (through an inner product), will precisely replicate the
output value of each unit. We show experimental results based on the CIFAR-10
and CIFAR-100 data sets where the proposed approach achieves near 0 activation
value reconstruction error.
- Abstract(参考訳): 随伴演算子はcnnの内部動作の探索に有効であることが判明しています[1]。
しかし、以前の非バイアス仮定は一般化を制限した。
入力画像を拡張空間の一部としてCNN層にバイアスを含む拡張ノルム空間に埋め込んで制限を克服し,高次重みを拡張入力空間にマッピングし,有効超曲面を再構築する随伴演算子に基づくアルゴリズムを提案する。
このような超曲面は、cnn内の任意の単位に対して計算でき、この再構成された超曲面は、元の入力(内積を通して)に乗算すると、各単位の出力値を正確に再現することが証明される。
CIFAR-10 と CIFAR-100 データセットを用いて,提案手法が約 0 の活性化値再構成誤差を達成する実験結果を示す。
関連論文リスト
- Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Multi-Grid Tensorized Fourier Neural Operator for High-Resolution PDEs [93.82811501035569]
本稿では,メモリ要求を低減し,より一般化したデータ効率・並列化可能な演算子学習手法を提案する。
MG-TFNOは、実世界の実世界の現象の局所的構造と大域的構造を活用することで、大規模な分解能にスケールする。
乱流ナビエ・ストークス方程式において150倍以上の圧縮で誤差の半分以下を達成できる優れた性能を示す。
論文 参考訳(メタデータ) (2023-09-29T20:18:52Z) - Neural Vector Fields: Generalizing Distance Vector Fields by Codebooks
and Zero-Curl Regularization [73.3605319281966]
メッシュと暗黙的符号なし距離関数(UDF)を演算する明示的な学習プロセスを採用した新しい3D表現であるNeural Vector Fields (NVF)を提案する。
両NVFを水密化・非水密化・非水密化・非水密化・非水密化・非水密化・非水密化・非水密化・非水密化・クロスドメイン化の4つのシナリオで評価した。
論文 参考訳(メタデータ) (2023-09-04T10:42:56Z) - Lipschitz constant estimation for 1D convolutional neural networks [0.0]
本稿では,1次元畳み込みニューラルネットワーク(CNN)のリプシッツ定数推定法を提案する。
特に, 畳み込み層, プール層および完全連結層の分散特性を解析した。
論文 参考訳(メタデータ) (2022-11-28T12:09:06Z) - Active Nearest Neighbor Regression Through Delaunay Refinement [79.93030583257597]
近接回帰に基づく能動関数近似アルゴリズムを提案する。
我々のActive Nearest Neighbor Regressor (ANNR) は計算幾何学の Voronoi-Delaunay フレームワークに頼り、空間を一定の関数値のセルに分割する。
論文 参考訳(メタデータ) (2022-06-16T10:24:03Z) - Direction of Arrival Estimation of Sound Sources Using Icosahedral CNNs [10.089520556398574]
Icosahedral Convolutional Neural Network (CNN) に基づく音源の指向性(DOA)推定の新しいモデルを提案する。
このイコサヘドラルCNNは、球状回転の連続空間のよい近似を示すイコサヘドロンの60回転対称性に同値である。
問題の等式に適合するモデルを使用することで、計算コストの低減とロバスト性の向上により、他の最先端モデルよりも優れることを示す。
論文 参考訳(メタデータ) (2022-03-31T10:52:19Z) - Rethinking Reconstruction Autoencoder-Based Out-of-Distribution
Detection [0.0]
リコンストラクションオートエンコーダに基づく手法は、入力再構成誤差を新規性対正規性の計量として用いることでこの問題に対処する。
本稿では, 意味的再構成, データの確実性分解, 正規化L2距離を導入し, 元の手法を大幅に改善する。
提案手法は,追加データや実装の困難さ,時間を要するパイプライン,さらには既知のクラスの分類精度を損なうことなく機能する。
論文 参考訳(メタデータ) (2022-03-04T09:04:55Z) - Anchor-free Oriented Proposal Generator for Object Detection [59.54125119453818]
オブジェクト指向物体検出はリモートセンシング画像解釈において実用的で困難な課題である。
今日では、指向性検出器は主に水平方向の箱を中間体として使用し、それらから指向性のある箱を導出している。
本稿では,ネットワークアーキテクチャから水平ボックス関連操作を放棄する,AOPG(Anchor-free Oriented Proposal Generator)を提案する。
論文 参考訳(メタデータ) (2021-10-05T10:45:51Z) - Deep Neural Networks are Surprisingly Reversible: A Baseline for
Zero-Shot Inversion [90.65667807498086]
本稿では、内部表現のみを与えられたトレーニングモデルへの入力を復元するゼロショット直接モデル逆変換フレームワークを提案する。
ImageNetの最新の分類モデルでは、20層以上の表現から元の224x224px画像を近似的に復元できることを実証的に示す。
論文 参考訳(メタデータ) (2021-07-13T18:01:43Z) - Semi-orthogonal Embedding for Efficient Unsupervised Anomaly
Segmentation [6.135577623169028]
我々は,ロバスト近似のための半直交埋め込みに,ランダムな特徴選択というアドホックな手法を一般化する。
アブレーション研究の精査により,提案手法はMVTec AD, KolektorSDD, KolektorSDD2, mSTCデータセットに対して,新たな最先端技術を実現する。
論文 参考訳(メタデータ) (2021-05-31T07:02:20Z) - AdjointBackMap: Reconstructing Effective Decision Hypersurfaces from CNN
Layers Using Adjoint Operators [10.8349819399336]
畳み込みニューラルネットワーク(CNN)の内部動作を説明する手法を提案する。
CNNユニットの判定面が入力にほとんど条件付けられていることが分かり、このことが、CNNを効果的に騙すことができる理由を説明できる。
論文 参考訳(メタデータ) (2020-12-16T15:35:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。