論文の概要: Biological Plausibility and Representational Alignment of Feedback Alignment in Convolutional Networks
- arxiv url: http://arxiv.org/abs/2605.08564v1
- Date: Fri, 08 May 2026 23:54:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.741475
- Title: Biological Plausibility and Representational Alignment of Feedback Alignment in Convolutional Networks
- Title（参考訳）: 畳み込みネットワークにおけるフィードバックアライメントの生物学的可視性と表現的アライメント
- Authors: Jake Lance, Larry Kieu,
- Abstract要約: CIFAR-10データセットと同一の畳み込みアーキテクチャに適用した改良FAと標準BPを含む5つの学習アルゴリズムを評価した。
この結果から, 修正FAアルゴリズムは, バックプロパゲーションによって生成されるものと構造的に類似した内部表現に収束することが示唆された。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The feedback alignment (FA) algorithm offers a biologically plausible alternative to backpropagation (BP) for training neural networks yet notably fails to scale to convolutional architectures. Modifications have been proposed to address this limitation, but at questionable cost to biological plausibility. In this paper, we evaluate five learning algorithms including modified FA and standard BP, applied to the same convolutional architecture with the CIFAR-10 dataset. We provide a tripartite comparative analysis focusing on biological plausibility, interpretability, and computational complexity. Our results indicate that modified FA algorithms converge on internal representations that are structurally similar to those produced by backpropagation. In particular, it appears the functional success of modified FA algorithms may be rooted in their ability to mimic the representational geometry of backpropagation, converging on similar representations despite relying on fundamentally different weight update mechanisms.
- Abstract（参考訳）: フィードバックアライメント(FA)アルゴリズムは、ニューラルネットワークをトレーニングする上で、生物学的に妥当なバックプロパゲーション(BP)の代替手段を提供する。
この制限に対処する修正が提案されているが、生物学的な妥当性に疑わしいコストがかかる。
本稿では,修正FAと標準BPを含む5つの学習アルゴリズムを評価し,CIFAR-10データセットと同一の畳み込みアーキテクチャに適用した。
本稿では,生物学的妥当性,解釈可能性,計算複雑性に着目した三部構成比較分析を行う。
この結果から, 修正FAアルゴリズムは, バックプロパゲーションによって生成されるものと構造的に類似した内部表現に収束することが示唆された。
特に、修正FAアルゴリズムの機能的成功は、基本的に異なる重み更新機構に依存するにもかかわらず、類似した表現を収束させて、バックプロパゲーションの表現幾何学を模倣する能力に根ざしていると考えられる。
関連論文リスト
- Bayesian Unsupervised Disentanglement of Anatomy and Geometry for Deep Groupwise Image Registration [59.062085785106234]
本稿では,マルチモーダル群画像登録のための一般ベイズ学習フレームワークを提案する。
本稿では,潜在変数の推論手順を実現するために,新しい階層的変分自動符号化アーキテクチャを提案する。
心臓、脳、腹部の医療画像から4つの異なるデータセットを含む,提案された枠組みを検証する実験を行った。
論文 参考訳（メタデータ） (2024-01-04T08:46:39Z) - Unlocking the Potential of Similarity Matching: Scalability, Supervision
and Pre-training [9.160910754837754]
バックプロパゲーション(BP)アルゴリズムは、生物学的な妥当性、計算コスト、オンライン学習に適した限界を示す。
本研究は, 生体系における観察機構と整合する, 主に教師なし類似性マッチング(SM)フレームワークに焦点を当てた。
論文 参考訳（メタデータ） (2023-08-02T20:34:55Z) - Incorporating Prior Knowledge in Deep Learning Models via Pathway
Activity Autoencoders [5.950889585409067]
本稿では,癌におけるRNA-seqデータのための,事前知識に基づく新しいディープオートエンコーディングフレームワークPAAEを提案する。
機能セットが小さいにもかかわらず,PAAEモデルとPAAEモデルでは,一般的な手法と比較して,アウト・オブ・セットの再現性が向上していることを示す。
論文 参考訳（メタデータ） (2023-06-09T11:12:55Z) - Learning with augmented target information: An alternative theory of
Feedback Alignment [0.0]
本稿では,フィードバックアライメント(FA)が情報理論のレンズを通してどのように機能するか,という新しい理論を提案する。
FAは、トレーニング対象のニューラルネットワークにターゲット情報を埋め込むことで、効果的な表現を学ぶ。
理想的な設定におけるFAダイナミクスの分析と、一連の実験を通してこれを示す。
論文 参考訳（メタデータ） (2023-04-03T22:44:03Z) - The Predictive Forward-Forward Algorithm [79.07468367923619]
本稿では,ニューラルネットワークにおける信頼割当を行うための予測フォワード(PFF)アルゴリズムを提案する。
我々は,有向生成回路と表現回路を同時に同時に学習する,新しい動的リカレントニューラルネットワークを設計する。
PFFは効率よく学習し、学習信号を伝達し、フォワードパスのみでシナプスを更新する。
論文 参考訳（メタデータ） (2023-01-04T05:34:48Z) - A Robust Backpropagation-Free Framework for Images [47.97322346441165]
画像データに対するエラーカーネル駆動型アクティベーションアライメントアルゴリズムを提案する。
EKDAAは、ローカルに派生したエラー送信カーネルとエラーマップを導入することで達成される。
結果は、識別不能なアクティベーション機能を利用するEKDAAトレーニングCNNに対して提示される。
論文 参考訳（メタデータ） (2022-06-03T21:14:10Z) - Improved Variational Bayesian Phylogenetic Inference with Normalizing
Flows [7.119831726757417]
本稿では, 深層学習技術を用いた系統的後生推定の促進に向けた第一歩として, 新たなVBPI, VBPI-NFを提案する。
VBPI-NFは正規化フローを使用して、異なる木のトポロジーをまたいで一般化する柔軟な分岐長さ分布のリッチなファミリーを提供する。
論文 参考訳（メタデータ） (2020-12-01T13:10:00Z) - Investigating the Scalability and Biological Plausibility of the
Activation Relaxation Algorithm [62.997667081978825]
アクティベーション・リラクシエーション(AR)アルゴリズムは、誤りアルゴリズムのバックプロパゲーションを近似するためのシンプルでロバストなアプローチを提供する。
このアルゴリズムは、学習可能な後方重みセットを導入することにより、さらに単純化され、生物学的に検証可能であることを示す。
また、元のARアルゴリズム(凍結フィードフォワードパス)の別の生物学的に信じられない仮定が、パフォーマンスを損なうことなく緩和できるかどうかについても検討する。
論文 参考訳（メタデータ） (2020-10-13T08:02:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。