論文の概要: Behavioral Experiments for Understanding Catastrophic Forgetting
- arxiv url: http://arxiv.org/abs/2110.10570v2
- Date: Fri, 22 Oct 2021 11:22:11 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-25 11:30:52.724382
- Title: Behavioral Experiments for Understanding Catastrophic Forgetting
- Title(参考訳): カタストロフィックフォーミングを理解するための行動実験
- Authors: Samuel J. Bell and Neil D. Lawrence
- Abstract要約: 実験心理学の手法をニューラルネットワークにおける破滅的忘れの研究に適用する。
本稿では,2層ReLUネットワークを用いた一連の制御実験を行い,破滅的忘れの挙動の新たな理解を明らかにする。
- 参考スコア(独自算出の注目度): 9.679643351149215
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper we explore whether the fundamental tool of experimental
psychology, the behavioral experiment, has the power to generate insight not
only into humans and animals, but artificial systems too. We apply the
techniques of experimental psychology to investigating catastrophic forgetting
in neural networks. We present a series of controlled experiments with
two-layer ReLU networks, and exploratory results revealing a new understanding
of the behavior of catastrophic forgetting. Alongside our empirical findings,
we demonstrate an alternative, behavior-first approach to investigating neural
network phenomena.
- Abstract(参考訳): 本稿では,実験心理学の基本的ツールである行動実験が,人間や動物だけでなく,人工システムにも洞察をもたらす能力を持っているかを検討する。
実験心理学の手法をニューラルネットワークにおける破滅的忘れの研究に適用する。
本稿では,2層ReLUネットワークを用いた一連の制御実験を行い,破滅的忘れの挙動の新たな理解を明らかにする。
実験結果と並行して,ニューラルネット現象を調査するための行動優先のアプローチを示す。
関連論文リスト
- Discovering Chunks in Neural Embeddings for Interpretability [53.80157905839065]
本稿では, チャンキングの原理を応用して, 人工神経集団活動の解釈を提案する。
まず、この概念を正則性を持つ人工シーケンスを訓練したリカレントニューラルネットワーク(RNN)で実証する。
我々は、これらの状態に対する摂動が関連する概念を活性化または阻害すると共に、入力における概念に対応する同様の繰り返し埋め込み状態を特定する。
論文 参考訳(メタデータ) (2025-02-03T20:30:46Z) - Exploring Grokking: Experimental and Mechanistic Investigations [0.0]
グラッキングは、トレーニングエラーゼロとほぼランダムなテストエラーでトレーニングセットを記憶するニューラルネットワークを含む。
本研究は、広範囲にわたる実験と、グルーキングのメカニズムの背後にある研究の探索を含む。
論文 参考訳(メタデータ) (2024-12-14T17:11:38Z) - A Fuzzy-based Approach to Predict Human Interaction by Functional Near-Infrared Spectroscopy [25.185426359719454]
本稿では、心理学研究におけるニューラルモデルの解釈可能性と有効性に対する新しい計算手法であるファジィベースの注意層(ファジィ注意層)について紹介する。
ファジィロジックを活用することで、ファジィ注意層は神経活動の解釈可能なパターンを学習し識別することができる。
論文 参考訳(メタデータ) (2024-09-26T09:20:12Z) - Brain-Inspired Machine Intelligence: A Survey of
Neurobiologically-Plausible Credit Assignment [65.268245109828]
本稿では,神経生物学にインスパイアされた,あるいは動機付けられた人工ニューラルネットワークにおける信用割当を行うアルゴリズムについて検討する。
我々は、脳にインスパイアされた学習スキームを6つの一般的なファミリーにまとめ、これらを誤りのバックプロパゲーションの文脈で検討する。
本研究の成果は,神経ミメティックシステムとその構成的学習プロセスの今後の発展を促進することを目的としている。
論文 参考訳(メタデータ) (2023-12-01T05:20:57Z) - A Goal-Driven Approach to Systems Neuroscience [2.6451153531057985]
人間と動物は、動的環境において様々な興味深い行動を示す。
私たちの脳が、こうした行動を可能にするために、どのようにしてこの密集した感覚情報を積極的に再構築するかは不明です。
我々は、ニューラルサーキットの統一構造モデルと機能モデルを生み出すことを約束する新しい解釈可能性の定義を提供する。
論文 参考訳(メタデータ) (2023-11-05T16:37:53Z) - Exploring Behavior Discovery Methods for Heterogeneous Swarms of
Limited-Capability Robots [9.525230669966415]
本研究では,ロボット群が機能的に異質である場合の創発行動を決定する問題について検討する。
我々の知る限りでは、これらは計算自由エージェントの異種群に対する最初の創発的行動である。
論文 参考訳(メタデータ) (2023-10-25T19:20:32Z) - Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。
我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
論文 参考訳(メタデータ) (2023-03-30T02:40:28Z) - The world seems different in a social context: a neural network analysis
of human experimental data [57.729312306803955]
本研究では,先行・知覚的信号の精度を変化させることで,個人・社会的タスク設定の両方で人間の行動データを再現可能であることを示す。
トレーニングされたネットワークの神経活性化トレースの分析は、情報が個人や社会的条件のネットワークにおいて、根本的に異なる方法でコード化されていることを示す。
論文 参考訳(メタデータ) (2022-03-03T17:19:12Z) - Overcoming the Domain Gap in Neural Action Representations [60.47807856873544]
3Dポーズデータは、手動で介入することなく、マルチビュービデオシーケンスから確実に抽出できる。
本稿では,ニューラルアクション表現の符号化を,ニューラルアクションと行動拡張のセットと共に導くために使用することを提案する。
ドメインギャップを減らすために、トレーニングの間、同様の行動をしているように見える動物間で神経と行動のデータを取り替える。
論文 参考訳(メタデータ) (2021-12-02T12:45:46Z) - Overcoming the Domain Gap in Contrastive Learning of Neural Action
Representations [60.47807856873544]
神経科学の基本的な目標は、神経活動と行動の関係を理解することである。
我々は,ハエが自然に生み出す行動からなる新しいマルチモーダルデータセットを作成した。
このデータセットと新しい拡張セットは、神経科学における自己教師あり学習手法の適用を加速することを約束します。
論文 参考訳(メタデータ) (2021-11-29T15:27:51Z) - How Do You Act? An Empirical Study to Understand Behavior of Deep
Reinforcement Learning Agents [2.3268634502937937]
深層強化学習エージェントの意思決定プロセスの透明性向上への需要はこれまで以上に大きい。
本研究では,エージェントのポリシーネットワークの活性化空間を通じて学習した表現を特徴付ける。
本研究は,ネットワークの層活性化と実行動作の相関パターンを特徴とする健康エージェントの挙動を示す。
論文 参考訳(メタデータ) (2020-04-07T10:08:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。