論文の概要: A Basic Evaluation of Neural Networks Trained with the Error Diffusion Learning Algorithm

• arxiv url: http://arxiv.org/abs/2504.14814v2
• Date: Mon, 28 Apr 2025 11:14:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:52.728231
• Title: A Basic Evaluation of Neural Networks Trained with the Error Diffusion Learning Algorithm
• Title（参考訳）: 誤差拡散学習アルゴリズムを用いたニューラルネットワークの基礎評価
• Authors: Kazuhisa Fujita,
• Abstract要約: Kaneko's Error Diffusion Learning Algorithm (EDLA) 単一のグローバルエラー信号は、対の励起阻害サブ層からなるネットワーク全体に拡散する。 実験の結果、EDLAネットワークは一貫して高い精度を達成できることが示された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial neural networks are powerful tools capable of addressing various tasks. Although the backpropagation algorithm has become a standard training method for these neural networks, its lack of biological plausibility has inspired the development of alternative learning approaches. One such alternative is Kaneko's Error Diffusion Learning Algorithm (EDLA), a biologically motivated approach wherein a single global error signal diffuses throughout a network composed of paired excitatory-inhibitory sublayers, thereby eliminating the necessity for layer-wise backpropagation. This study presents a contemporary formulation of the EDLA framework and evaluates its effectiveness through parity check, regression, and image classification tasks. Our experimental results indicate that EDLA networks can consistently achieve high accuracy across these benchmarks, with performance efficiency and convergence speed notably influenced by the choice of learning rate, neuron count, and network depth. Further investigation of the internal representations formed by EDLA networks reveals their capacity for meaningful feature extraction, similar to traditional neural networks. These results suggest that EDLA is a biologically motivated alternative for training feedforward networks and will motivate future work on extending this method to biologically inspired neural networks.
• Abstract（参考訳）: ニューラルネットワークは、さまざまなタスクに対処できる強力なツールである。 バックプロパゲーションアルゴリズムは、これらのニューラルネットワークの標準的なトレーニング手法となっているが、生物学的な妥当性の欠如は、代替学習手法の開発に影響を与えている。 そのような方法の1つは、KenekoのError Diffusion Learning Algorithm (EDLA) である。これは生物学的に動機づけられたアプローチであり、単一のグローバルエラー信号が2つの励起阻止サブ層からなるネットワーク全体に拡散し、レイヤーワイドバックプロパゲーションの必要性を排除している。 本研究では、EDLAフレームワークの現代的定式化を行い、パリティチェック、回帰、画像分類タスクを通じてその有効性を評価する。 実験結果から,EDLAネットワークはこれらのベンチマークにおいて,学習速度,ニューロン数,ネットワーク深度の選択の影響を顕著に受けながら,性能効率と収束速度を連続的に達成できることが示唆された。 EDLAネットワークによって形成される内部表現のさらなる調査は、従来のニューラルネットワークと同様、意味のある特徴抽出の能力を明らかにしている。 これらの結果は、EDLAがフィードフォワードネットワークをトレーニングするための生物学的に動機づけられた代替手段であり、この手法を生物学的にインスピレーションされたニューラルネットワークに拡張するための将来の取り組みを動機付けていることを示唆している。

関連論文リスト

• Efficient Machine Unlearning via Influence Approximation [75.31015485113993]
  インフルエンサーベースのアンラーニングは、個別のトレーニングサンプルがモデルパラメータに与える影響を再トレーニングせずに推定する顕著なアプローチとして現れてきた。 本稿では,暗記(増分学習)と忘れ(未学習)の理論的関連性を確立する。 本稿では、インフルエンス近似アンラーニングアルゴリズムを導入し、インクリメンタルな視点から効率的なマシンアンラーニングを行う。
  論文  参考訳（メタデータ） (2025-07-31T05:34:27Z)
• Graph Neural Network-Based Reinforcement Learning for Controlling Biological Networks: The GATTACA Framework [0.0]
  複雑な生物学的システムのネットワークモデルを制御するために, 深層強化学習(DRL)の利用について検討する。 セルリプログラミングにおける非同期更新モード下でのブールネットワークモデルに対する新しい制御問題を定式化する。 生体システムの構造を活用するため,DRLエージェントが学習した行動値関数のための人工ニューラルネットワーク近似器に,グラフ畳み込みを伴うグラフニューラルネットワークを組み込んだ。
  論文  参考訳（メタデータ） (2025-05-05T15:07:20Z)
• A new training approach for text classification in Mental Health: LatentGLoss [0.0]
  本研究では,機械学習アルゴリズム,ディープラーニングアーキテクチャ,トランスフォーマーモデルを活用することにより,メンタルヘルス分類の多段階的アプローチを提案する。 本研究の中核的な貢献は、教師と学生ネットワークで構成される二重モデルアーキテクチャを含む、新しいトレーニング戦略にある。 実験の結果、各モデルステージの有効性を強調し、提案した損失関数と教師と学生の相互作用が、メンタルヘルス予測タスクにおけるモデルの学習能力を大幅に向上させることを示した。
  論文  参考訳（メタデータ） (2025-04-09T19:34:31Z)
• Discovering Chunks in Neural Embeddings for Interpretability [53.80157905839065]
  本稿では, チャンキングの原理を応用して, 人工神経集団活動の解釈を提案する。 まず、この概念を正則性を持つ人工シーケンスを訓練したリカレントニューラルネットワーク(RNN)で実証する。 我々は、これらの状態に対する摂動が関連する概念を活性化または阻害すると共に、入力における概念に対応する同様の繰り返し埋め込み状態を特定する。
  論文  参考訳（メタデータ） (2025-02-03T20:30:46Z)
• Feasibility Analysis of Federated Neural Networks for Explainable Detection of Atrial Fibrillation [1.6053176639259055]
  心房細動 (AFib) の早期発見は, 無症候性, 発作性に困難である。 本研究は、生のECGデータを用いてAFibを検出するために、フェデレートラーニング(FL)プラットフォーム上でニューラルネットワークをトレーニングする可能性を評価する。
  論文  参考訳（メタデータ） (2024-10-14T15:06:10Z)
• Counter-Current Learning: A Biologically Plausible Dual Network Approach for Deep Learning [32.122425860826525]
  生物学的妥当性の欠如が 批判されている 本稿では,ニューラルネットワークにおけるクレジット代入のための生物学的に妥当なフレームワークである対流学習(CCL)を提案する。 我々の研究は、ニューラルネットワークにおける学習と適応の代替メカニズムを提供する、生物学的にインスパイアされた、そして実証可能な学習アルゴリズムの方向性を示す。
  論文  参考訳（メタデータ） (2024-09-30T00:47:13Z)
• Enhancing Cognitive Workload Classification Using Integrated LSTM Layers and CNNs for fNIRS Data Analysis [13.74551296919155]
  本稿では、ディープラーニングモデルにおける畳み込みニューラルネットワーク(CNN)の有効性に対する長期記憶層の影響について検討する。 LSTMレイヤを統合することで、モデルがfNIRSデータ内の時間的依存関係をキャプチャし、認知状態をより包括的に理解することが可能になる。
  論文  参考訳（メタデータ） (2024-07-22T11:28:34Z)
• Emerging NeoHebbian Dynamics in Forward-Forward Learning: Implications for Neuromorphic Computing [7.345136916791223]
  フォワード・フォワードアルゴリズム(FFA)は各層に局所学習規則を用いる。 局所学習を駆動する良さ関数として2乗ユークリッドノルムを用いる場合、FFAはネオ・ヘビアン学習規則と等価であることを示す。
  論文  参考訳（メタデータ） (2024-06-24T09:33:56Z)
• Sparse Multitask Learning for Efficient Neural Representation of Motor Imagery and Execution [30.186917337606477]
  運動画像(MI)と運動実行(ME)タスクのためのスパースマルチタスク学習フレームワークを提案する。 MI-ME分類のためのデュアルタスクCNNモデルが与えられた場合、過渡的な接続に対して、サリエンシに基づくスペーシフィケーションアプローチを適用する。 以上の結果から, この調整された疎水性は, 過度に適合する問題を緩和し, 少ないデータ量でテスト性能を向上させることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T09:06:16Z)
• Spiking Generative Adversarial Network with Attention Scoring Decoding [4.5727987473456055]
  スパイクニューラルネットワークは、脳のような処理に近づいた近似を提供する。 我々は複雑な画像を扱うことができるスパイク生成対向ネットワークを構築した。
  論文  参考訳（メタデータ） (2023-05-17T14:35:45Z)
• Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
  この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。 我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
  論文  参考訳（メタデータ） (2023-03-30T02:40:28Z)
• Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
  我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。 GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
  論文  参考訳（メタデータ） (2023-02-06T16:38:43Z)
• Biologically Plausible Training of Deep Neural Networks Using a Top-down Credit Assignment Network [32.575847142016585]
  トップダウン・クレジット・アサインメント・ネットワーク(TDCA-network)は、トップダウン・クレジット・アサインメント・ネットワーク(TDCA-network)を用いてボトムアップ・ネットワークを訓練するように設計されている。 TDCAネットワークは、ニューラルネットワークトレーニングで広く使われている従来の損失関数とバックプロパゲーションアルゴリズムの代用として機能する。 その結果、TDCA-networkは様々なデータセットでニューラルネットワークをトレーニングする有望な可能性を示唆している。
  論文  参考訳（メタデータ） (2022-08-01T07:14:37Z)
• Initial Study into Application of Feature Density and Linguistically-backed Embedding to Improve Machine Learning-based Cyberbullying Detection [54.83707803301847]
  この研究は、自動サイバーバブル検出に関するKaggleコンペティションで提供されたFormspringデータセットで実施された。 本研究は,サイバブリング検出におけるニューラルネットワークの有効性と分類器性能と特徴密度の相関性を確認した。
  論文  参考訳（メタデータ） (2022-06-04T03:17:15Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• Improving Music Performance Assessment with Contrastive Learning [78.8942067357231]
  本研究では,既存のMPAシステムを改善するための潜在的手法として,コントラスト学習について検討する。 畳み込みニューラルネットワークに適用された回帰タスクに適した重み付きコントラスト損失を導入する。 この結果から,MPA回帰タスクにおいて,コントラッシブ・ベースの手法がSoTA性能に適合し,超越できることが示唆された。
  論文  参考訳（メタデータ） (2021-08-03T19:24:25Z)
• FF-NSL: Feed-Forward Neural-Symbolic Learner [70.978007919101]
  本稿では,Feed-Forward Neural-Symbolic Learner (FF-NSL) と呼ばれるニューラルシンボリック学習フレームワークを紹介する。 FF-NSLは、ラベル付き非構造化データから解釈可能な仮説を学習するために、Answer Setセマンティクスに基づく最先端のICPシステムとニューラルネットワークを統合する。
  論文  参考訳（メタデータ） (2021-06-24T15:38:34Z)
• Efficient Estimation of Influence of a Training Instance [56.29080605123304]
  本稿では,ニューラルネットワークモデルに対するトレーニングインスタンスの影響を効率的に推定する手法を提案する。 このメソッドは、サブネットワークをゼロマスクし、サブネットワークが各トレーニングインスタンスを学習するのを防ぎます。 提案手法は, 学習の影響を捉え, 誤り予測の解釈性を高め, 一般化改善のための訓練データセットをクリーン化できることを実証する。
  論文  参考訳（メタデータ） (2020-12-08T04:31:38Z)
• Network Diffusions via Neural Mean-Field Dynamics [52.091487866968286]
  本稿では,ネットワーク上の拡散の推論と推定のための新しい学習フレームワークを提案する。 本研究の枠組みは, ノード感染確率の正確な進化を得るために, モリ・ズワンジッヒ形式から導かれる。 我々のアプローチは、基礎となる拡散ネットワークモデルのバリエーションに対して多用途で堅牢である。
  論文  参考訳（メタデータ） (2020-06-16T18:45:20Z)
• Rectified Linear Postsynaptic Potential Function for Backpropagation in Deep Spiking Neural Networks [55.0627904986664]
  スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。 本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
  論文  参考訳（メタデータ） (2020-03-26T11:13:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。