Fugu-MT 論文翻訳(概要): Visualizing the Emergence of Intermediate Visual Patterns in DNNs

論文の概要: Visualizing the Emergence of Intermediate Visual Patterns in DNNs

arxiv url: http://arxiv.org/abs/2111.03505v1
Date: Fri, 5 Nov 2021 13:49:39 GMT
ステータス: 処理完了
システム内更新日: 2021-11-08 13:59:49.250382
Title: Visualizing the Emergence of Intermediate Visual Patterns in DNNs
Title（参考訳）: dnnにおける中間視覚パターンの出現の可視化
Authors: Mingjie Li, Shaobo Wang, Quanshi Zhang
Abstract要約: 本稿では,DNNで符号化された中間層視覚パターンの識別能力を可視化する手法を提案する。 DNNは、トレーニングプロセス中に、各中間層における局所的な視覚パターンを徐々に学習する様子を可視化する。この手法はまた、敵の攻撃や知識の蒸留など、既存の深層学習技術の信号処理行動に関する新たな洞察を提供する。
参考スコア（独自算出の注目度）: 19.043540343193946
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper proposes a method to visualize the discrimination power of intermediate-layer visual patterns encoded by a DNN. Specifically, we visualize (1) how the DNN gradually learns regional visual patterns in each intermediate layer during the training process, and (2) the effects of the DNN using non-discriminative patterns in low layers to construct disciminative patterns in middle/high layers through the forward propagation. Based on our visualization method, we can quantify knowledge points (i.e., the number of discriminative visual patterns) learned by the DNN to evaluate the representation capacity of the DNN. Furthermore, this method also provides new insights into signal-processing behaviors of existing deep-learning techniques, such as adversarial attacks and knowledge distillation.
Abstract（参考訳）: 本稿では,DNNで符号化された中間層視覚パターンの識別能力を可視化する手法を提案する。具体的には、(1)訓練過程において、DNNが各中間層の局所的な視覚パターンを徐々に学習する様子を可視化し、(2)低層の非識別パターンを用いてDNNが前方伝播を通して中高層の識別パターンを構築する効果を可視化する。可視化手法を用いて,DNNが学習した知識点(識別的視覚パターンの数)を定量化し,DNNの表現能力を評価する。さらに, 本手法は, 既存の深層学習技術の信号処理行動に関する新たな知見を提供する。

関連論文リスト

Supervised Gradual Machine Learning for Aspect Category Detection [0.9857683394266679]
アスペクトカテゴリー検出(ACD)は、あるレビュー文の中で暗黙的かつ明示的な側面を識別することを目的としている。本稿では,Deep Neural Networks (DNN) と Gradual Machine Learning (GML) を教師付き環境で組み合わせることで,ACDタスクに取り組む新しい手法を提案する。
論文参考訳（メタデータ） (2024-04-08T07:21:46Z)
Manipulating Feature Visualizations with Gradient Slingshots [54.31109240020007]
本稿では,モデルの決定過程に大きな影響を及ぼすことなく,特徴可視化(FV)を操作する新しい手法を提案する。ニューラルネットワークモデルにおける本手法の有効性を評価し,任意の選択したニューロンの機能を隠蔽する能力を示す。
論文参考訳（メタデータ） (2024-01-11T18:57:17Z)
Characterising representation dynamics in recurrent neural networks for object recognition [0.0]
リカレントニューラルネットワーク(RNN)は、挑戦的な条件における物体の認識と霊長類の視覚のモデル化の両方に有望な結果をもたらした。本稿では,MiniEcoset を用いたオブジェクト分類のために訓練された RNN における逐次計算の表現力学について検討する。
論文参考訳（メタデータ） (2023-08-23T21:36:35Z)
Graph Neural Networks Provably Benefit from Structural Information: A Feature Learning Perspective [53.999128831324576]
グラフニューラルネットワーク(GNN)は、グラフ表現学習の先駆けとなった。本研究では,特徴学習理論の文脈におけるグラフ畳み込みの役割について検討する。
論文参考訳（メタデータ） (2023-06-24T10:21:11Z)
Experimental Observations of the Topology of Convolutional Neural Network Activations [2.4235626091331737]
トポロジカル・データ解析は、複雑な構造のコンパクトでノイズ・ロバストな表現を提供する。ディープニューラルネットワーク(DNN)は、モデルアーキテクチャによって定義された一連の変換に関連する数百万のパラメータを学習する。本稿では,画像分類に使用される畳み込みニューラルネットワークの解釈可能性に関する知見を得る目的で,TDAの最先端技術を適用した。
論文参考訳（メタデータ） (2022-12-01T02:05:44Z)
Interpolation-based Correlation Reduction Network for Semi-Supervised Graph Learning [49.94816548023729]
補間型相関低減ネットワーク(ICRN)と呼ばれる新しいグラフコントラスト学習手法を提案する。提案手法では,決定境界のマージンを大きくすることで,潜在特徴の識別能力を向上させる。この2つの設定を組み合わせることで、豊富なラベル付きノードと稀に価値あるラベル付きノードから豊富な監視情報を抽出し、離散表現学習を行う。
論文参考訳（メタデータ） (2022-06-06T14:26:34Z)
Towards interpreting computer vision based on transformation invariant optimization [10.820985444099536]
本研究では、ニューラルネットワークをターゲットクラスに活性化できる可視化画像を、バックプロパゲーション法により生成する。このような手法がニューラルネットワークの洞察を得るのに役立つケースがいくつかある。
論文参考訳（メタデータ） (2021-06-18T08:04:10Z)
Variational Structured Attention Networks for Deep Visual Representation Learning [49.80498066480928]
空間的注意マップとチャネル的注意の両方を原則的に共同学習するための統合的深層フレームワークを提案する。具体的には,確率的表現学習フレームワークに注目度の推定と相互作用を統合する。ニューラルネットワーク内で推論ルールを実装し,確率パラメータとcnnフロントエンドパラメータのエンドツーエンド学習を可能にする。
論文参考訳（メタデータ） (2021-03-05T07:37:24Z)
What Do Deep Nets Learn? Class-wise Patterns Revealed in the Input Space [88.37185513453758]
本研究では,深層ニューラルネットワーク(DNN)が学習するクラスワイズな知識を,異なる環境下で可視化し,理解する手法を提案する。本手法は,各クラスのモデルが学習した知識を表現するために,画素空間内の1つの予測パターンを探索する。逆境環境では、逆境に訓練されたモデルはより単純化された形状パターンを学ぶ傾向がある。
論文参考訳（メタデータ） (2021-01-18T06:38:41Z)
Explaining Deep Neural Networks using Unsupervised Clustering [12.639074798397619]
本稿では、教師なしクラスタリングを用いて、訓練された深層ニューラルネットワーク(DNN)を代理モデルに蒸留することで、新しい説明法を提案する。提案手法はDNNアーキテクチャの任意のレイヤに柔軟に適用可能であり,低レベルかつ高レベルな情報を組み込むことができる。
論文参考訳（メタデータ） (2020-07-15T04:49:43Z)
Ventral-Dorsal Neural Networks: Object Detection via Selective Attention [51.79577908317031]
我々はVDNet(Ventral-Dorsal Networks)と呼ばれる新しいフレームワークを提案する。人間の視覚システムの構造にインスパイアされた我々は「Ventral Network」と「Dorsal Network」の統合を提案する。実験の結果,提案手法は最先端の物体検出手法よりも優れていることがわかった。
論文参考訳（メタデータ） (2020-05-15T23:57:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。