論文の概要: FuNNscope: Visual microscope for interactively exploring the loss
landscape of fully connected neural networks
- arxiv url: http://arxiv.org/abs/2204.04511v1
- Date: Sat, 9 Apr 2022 16:41:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-12 17:03:12.338531
- Title: FuNNscope: Visual microscope for interactively exploring the loss
landscape of fully connected neural networks
- Title(参考訳): funnscope: 全連結ニューラルネットワークの損失景観をインタラクティブに探索する視覚顕微鏡
- Authors: Aleksandar Doknic and Torsten M\"oller
- Abstract要約: ニューラルネットワークの高次元景観特性を探索する方法を示す。
我々は、小さなニューラルネットワークの観測結果をより複雑なシステムに一般化する。
インタラクティブダッシュボードは、いくつかのアプリケーションネットワークを開放する。
- 参考スコア(独自算出の注目度): 77.34726150561087
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite their effective use in various fields, many aspects of neural
networks are poorly understood. One important way to investigate the
characteristics of neural networks is to explore the loss landscape. However,
most models produce a high-dimensional non-convex landscape which is difficult
to visualize. We discuss and extend existing visualization methods based on 1D-
and 2D slicing with a novel method that approximates the actual loss landscape
geometry by using charts with interpretable axes. Based on the assumption that
observations on small neural networks can generalize to more complex systems
and provide us with helpful insights, we focus on small models in the range of
a few dozen weights, which enables computationally cheap experiments and the
use of an interactive dashboard. We observe symmetries around the zero vector,
the influence of different layers on the global landscape, the different weight
sensitivities around a minimizer, and how gradient descent navigates high-loss
obstacles. The user study resulted in an average SUS (System Usability Scale)
score with suggestions for improvement and opened up a number of possible
application scenarios, such as autoencoders and ensemble networks.
- Abstract(参考訳): 様々な分野で有効利用されているにもかかわらず、ニューラルネットワークの多くの側面は理解されていない。
ニューラルネットワークの特徴を調べるための重要な方法は、損失の風景を探索することである。
しかし、ほとんどのモデルは、可視化が難しい高次元の非凸景観を作り出す。
本研究では,1次元2次元スライシングに基づく既存の可視化手法を,解釈可能な軸を持つチャートを用いて,実際の損失地形形状を近似する新しい手法で論じ,拡張する。
小さなニューラルネットワークの観測がより複雑なシステムに一般化し、有益な洞察を与えるという仮定に基づいて、我々は、計算的に安価な実験と対話型ダッシュボードの使用を可能にする、数十重みの範囲の小さなモデルに焦点を当てる。
ゼロベクトルまわりの対称性,グローバルランドスケープへの異なる層の影響,最小化器まわりの異なる重み感性,そして勾配勾配が高損失障害物をいかにナビゲートするかを観察する。
ユーザ調査の結果,改善提案を伴う平均susスコアが得られ,オートエンコーダやアンサンブルネットワークなど,考えられる多くのアプリケーションシナリオが開放された。
関連論文リスト
- Learning Multimodal Volumetric Features for Large-Scale Neuron Tracing [72.45257414889478]
オーバーセグメントニューロン間の接続を予測し,人間の作業量を削減することを目的としている。
最初はFlyTracingという名前のデータセットを構築しました。
本稿では,高密度なボリュームEM画像の埋め込みを生成するための,新しい接続性を考慮したコントラスト学習手法を提案する。
論文 参考訳(メタデータ) (2024-01-05T19:45:12Z) - Visual Prompting Upgrades Neural Network Sparsification: A Data-Model
Perspective [67.25782152459851]
より優れた重量空間を実現するために、新しいデータモデル共設計視点を導入する。
具体的には、提案したVPNフレームワークでニューラルネットワークのスパーシフィケーションをアップグレードするために、カスタマイズされたVisual Promptが実装されている。
論文 参考訳(メタデータ) (2023-12-03T13:50:24Z) - Neuro-Visualizer: An Auto-encoder-based Loss Landscape Visualization
Method [4.981452040789784]
本稿では,ニューロ・ビジュアライザー (Neuro-Visualizer) と呼ばれる,自動エンコーダを用いた非線形景観可視化手法を提案する。
この結果,Neuro-Visualizerは,他の線状および非線状ベースラインよりも優れていた。
論文 参考訳(メタデータ) (2023-09-26T01:10:16Z) - SAR Despeckling Using Overcomplete Convolutional Networks [53.99620005035804]
スペックルはSAR画像を劣化させるため、リモートセンシングにおいて重要な問題である。
近年の研究では、畳み込みニューラルネットワーク(CNN)が古典的解法よりも優れていることが示されている。
本研究は、受容場を制限することで低レベルの特徴を学習することに集中するために、過剰なCNNアーキテクチャを用いる。
本稿では,合成および実SAR画像の非特定化手法と比較して,提案手法により非特定化性能が向上することを示す。
論文 参考訳(メタデータ) (2022-05-31T15:55:37Z) - Point-Cloud Deep Learning of Porous Media for Permeability Prediction [0.0]
デジタル画像から多孔質媒体の透過性を予測するための新しいディープラーニングフレームワークを提案する。
我々は、固体行列と細孔空間の境界を点雲としてモデル化し、それらをポイントネットアーキテクチャに基づくニューラルネットワークへの入力として供給する。
論文 参考訳(メタデータ) (2021-07-18T22:59:21Z) - Anomaly Detection on Attributed Networks via Contrastive Self-Supervised
Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。
このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。
高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文 参考訳(メタデータ) (2021-02-27T03:17:20Z) - Topological obstructions in neural networks learning [67.8848058842671]
損失勾配関数フローのグローバル特性について検討する。
損失関数とそのモースコンプレックスの位相データ解析を用いて,損失面の大域的特性と勾配軌道に沿った局所的挙動を関連付ける。
論文 参考訳(メタデータ) (2020-12-31T18:53:25Z) - Avoiding Spurious Local Minima in Deep Quadratic Networks [0.0]
ニューラルアクティベーション機能を持つネットワークにおける平均2乗非線形誤差の景観を特徴付ける。
2次アクティベーションを持つ深層ニューラルネットワークは、類似した景観特性の恩恵を受けることが証明された。
論文 参考訳(メタデータ) (2019-12-31T22:31:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。