論文の概要: Neuro-Visualizer: An Auto-encoder-based Loss Landscape Visualization Method

• arxiv url: http://arxiv.org/abs/2309.14601v1
• Date: Tue, 26 Sep 2023 01:10:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-27 15:15:02.499542
• Title: Neuro-Visualizer: An Auto-encoder-based Loss Landscape Visualization Method
• Title（参考訳）: Neuro-Visualizer: 自動エンコーダによるロスランドスケープ可視化手法
• Authors: Mohannad Elhamod, Anuj Karpatne
• Abstract要約: 本稿では,ニューロ・ビジュアライザー (Neuro-Visualizer) と呼ばれる,自動エンコーダを用いた非線形景観可視化手法を提案する。 この結果,Neuro-Visualizerは,他の線状および非線状ベースラインよりも優れていた。
• 参考スコア（独自算出の注目度）: 4.981452040789784
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In recent years, there has been a growing interest in visualizing the loss landscape of neural networks. Linear landscape visualization methods, such as principal component analysis, have become widely used as they intuitively help researchers study neural networks and their training process. However, these linear methods suffer from limitations and drawbacks due to their lack of flexibility and low fidelity at representing the high dimensional landscape. In this paper, we present a novel auto-encoder-based non-linear landscape visualization method called Neuro-Visualizer that addresses these shortcoming and provides useful insights about neural network loss landscapes. To demonstrate its potential, we run experiments on a variety of problems in two separate applications of knowledge-guided machine learning (KGML). Our findings show that Neuro-Visualizer outperforms other linear and non-linear baselines and helps corroborate, and sometime challenge, claims proposed by machine learning community. All code and data used in the experiments of this paper are available at an anonymous link https://anonymous.4open.science/r/NeuroVisualizer-FDD6
• Abstract（参考訳）: 近年,ニューラルネットワークのロスランドスケープを可視化することへの関心が高まっている。 ニューラルネットワークとその学習過程を直感的に研究する上で,主成分分析などの線形ランドスケープ可視化手法が広く利用されている。 しかし、これらの線形手法は、柔軟性の欠如と高次元の風景を表現することの信頼性の低下により、限界と欠点に苦しむ。 本稿では,ニューロ・ビジュアライザと呼ばれる,自動エンコーダを用いた非線形景観可視化手法を提案する。 その可能性を示すために、知識誘導機械学習(kgml)の2つの異なる応用において、様々な問題に関する実験を行う。 この結果は、Neuro-Visualizerが他の線形および非線形のベースラインより優れており、機械学習コミュニティが提案するコロボレート、時には挑戦に役立つことを示している。 本論文の実験で使用されたすべてのコードとデータは、https://anonymous.4open.science/r/NeuroVisualizer-FDD6で公開されている。

関連論文リスト

• Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
  この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。 これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。 それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。 本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
  論文  参考訳（メタデータ） (2024-02-21T15:51:01Z)
• Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks [74.3099028063756]
  我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。 我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。 我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
  論文  参考訳（メタデータ） (2024-02-19T09:29:37Z)
• Spiking neural network for nonlinear regression [68.8204255655161]
  スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。 彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。 スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-10-06T13:04:45Z)
• The Brain-Inspired Decoder for Natural Visual Image Reconstruction [4.433315630787158]
  本研究では,スパイクトレインの視覚的イメージを再構築するために,生物学的特性を持つディープラーニングニューラルネットワークアーキテクチャを提案する。 私たちのモデルは、ニューラルスパイクトから画像へのエンドツーエンドデコーダです。 提案手法は,画像の再構成に知覚的特徴を効果的に組み合わせることができることを示す。
  論文  参考訳（メタデータ） (2022-07-18T13:31:26Z)
• FuNNscope: Visual microscope for interactively exploring the loss landscape of fully connected neural networks [77.34726150561087]
  ニューラルネットワークの高次元景観特性を探索する方法を示す。 我々は、小さなニューラルネットワークの観測結果をより複雑なシステムに一般化する。 インタラクティブダッシュボードは、いくつかのアプリケーションネットワークを開放する。
  論文  参考訳（メタデータ） (2022-04-09T16:41:53Z)
• Visualizing Deep Neural Networks with Topographic Activation Maps [1.1470070927586014]
  我々は,ディープニューラルネットワーク層におけるニューロンの地形的レイアウトを求める手法を紹介し,比較する。 本研究では,地形のアクティベーションマップを用いて誤りの特定やバイアスのエンコードを行い,トレーニングプロセスの可視化を行う。
  論文  参考訳（メタデータ） (2022-04-07T15:56:44Z)
• Neuronal Learning Analysis using Cycle-Consistent Adversarial Networks [4.874780144224057]
  我々は、-CycleGANと呼ばれる深層生成モデルを用いて、前学習と後学習の神経活動の間の未知のマッピングを学習する。 我々は,カルシウム蛍光信号を前処理し,訓練し,評価するためのエンドツーエンドパイプラインを開発し,その結果の深層学習モデルを解釈する手法を開発した。
  論文  参考訳（メタデータ） (2021-11-25T13:24:19Z)
• Neural Fields in Visual Computing and Beyond [54.950885364735804]
  機械学習の最近の進歩は、座標ベースニューラルネットワークを用いた視覚コンピューティング問題の解決への関心が高まっている。 ニューラルネットワークは、3D形状と画像の合成、人体のアニメーション、3D再構成、ポーズ推定に成功している。 本報告は、文脈、数学的基礎、および、ニューラルネットワークに関する文献の広範なレビューを提供する。
  論文  参考訳（メタデータ） (2021-11-22T18:57:51Z)
• A neural anisotropic view of underspecification in deep learning [60.119023683371736]
  ニューラルネットが問題の未特定化を扱う方法が,データ表現に大きく依存していることを示す。 深層学習におけるアーキテクチャ的インダクティブバイアスの理解は,これらのシステムの公平性,堅牢性,一般化に対処する上で基本的であることを強調した。
  論文  参考訳（メタデータ） (2021-04-29T14:31:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。