論文の概要: Supervised Training Rapidly Degrades Early Visual Cortex Alignment Across Biologically Plausible Learning Rules
- arxiv url: http://arxiv.org/abs/2605.30556v1
- Date: Thu, 28 May 2026 20:39:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.225016
- Title: Supervised Training Rapidly Degrades Early Visual Cortex Alignment Across Biologically Plausible Learning Rules
- Title(参考訳): 早期視覚野アライメントを生体的プラズブルな学習規則全体にわたって早期に改善した教師訓練
- Authors: Nils Leutenegger,
- Abstract要約: ランダムで訓練されていないニューラルネットワークは、初期視覚野との表現的類似性において、トレーニングされたネットワークに一貫して一致するか、超えている。
本研究では,4つの学習規則のトレーニングにおいて,人間のfMRIデータに対する表現類似性分析(RSA)アライメントを追跡して検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Random, untrained neural networks consistently match or exceed trained networks in representational similarity to early visual cortex. This puzzling finding challenges the assumption that learning improves brain alignment. We investigate it by tracking representational similarity analysis (RSA) alignment to human fMRI data across training for four learning rules: backpropagation (BP), feedback alignment (FA), predictive coding (PC), and spike-timing-dependent plasticity (STDP). Using 720 object images from the THINGS database and fMRI data from three subjects across six visual ROIs, we measure Spearman correlations between model and brain representational dissimilarity matrices at eight training checkpoints (epochs 0-40). We find that (1) a single epoch of training reduces V1 alignment by 25-90%, depending on the learning rule; (2) backpropagation reduces V1 alignment most severely (delta r = -0.080), while predictive coding and STDP preserve substantially more (delta r ~ -0.04); and (3) a weaker, opposite tendency appears in object-selective cortex (LOC), where BP shows the largest increase in alignment during training, although the absolute change is small. These results suggest that untrained architectures capture low-level visual statistics through inductive biases alone, and that global error signals (BP) reshape early representations more aggressively than local learning rules (PC, STDP), which better preserve brain-like structure.
- Abstract(参考訳): ランダムで訓練されていないニューラルネットワークは、初期視覚野との表現的類似性において、トレーニングされたネットワークに一貫して一致するか、超えている。
この厄介な発見は、学習が脳のアライメントを改善するという仮定に挑戦する。
本研究は,バックプロパゲーション (BP), フィードバックアライメント (FA), 予測符号化 (PC), スパイクタイピング依存塑性 (STDP) の4つの学習規則において, 人間のfMRIデータに対する表現的類似性分析 (RSA) のアライメントを追跡することによって検討した。
THINGSデータベースからの720個のオブジェクト画像と6つの視覚ROIの3つの被験者のfMRIデータを用いて、モデルと脳表象の相似性行列のスピアマン相関を8つのトレーニングチェックポイントで測定した(エポック0-40)。
その結果,(1)学習規則に従って,トレーニングの単一エポックはV1アライメントを25~90%減少させ,(2)バックプロパゲーションはV1アライメントを最も厳しく(デルタ r = -0.080)、(2)予測符号化とSTDPは極めて多く(デルタ r ~ -0.04)、(3)オブジェクト選択性大脳皮質(LOC)では対向傾向が弱く,BPはトレーニング中のアライメントの最大増加を示すが,絶対変化は小さい。
これらの結果は、学習されていないアーキテクチャは帰納バイアスだけで低レベルの視覚統計を捉え、グローバルエラー信号(BP)は局所学習規則(PC、STDP)よりも積極的に初期表現を再構成し、脳に似た構造をよりよく保存していることを示唆している。
関連論文リスト
- An extremely coarse feedback signal is sufficient for learning human-aligned visual representations [2.9506547907696006]
学習信号の粗さが人間の視覚との表現的アライメントをどのように形成するかを検討する。
これらの粗い分類タスクに基づいて、畳み込みアーキテクチャとトランスフォーマーアーキテクチャをまたいだ数百のニューラルネットワークをトレーニングします。
訓練されたネットワークは、1000クラスのモデルのニューラルアライメントと一致するか、あるいは超えている表現を、最大8つのワイドカテゴリで学習する。
論文 参考訳(メタデータ) (2026-05-07T01:02:21Z) - UniBCI: Towards a Unified Pretrained Model for Invasive Brain-Computer Interfaces [7.71021447675552]
既存のアプローチでは、限られたスケールの異種データ、クロスドメインの分散シフト、トレーニング可能なニューラルネットワークの削減など、重要な課題に直面している。
本研究では、侵襲的脳インターフェイスのための統合された事前学習モデルを提案する。
結果は、UniBCIが汎用神経基盤モデルへの実践的なステップを提供することを示唆している。
論文 参考訳(メタデータ) (2026-04-30T06:30:24Z) - Untrained CNNs Match Backpropagation at V1: A Systematic RSA Comparison of Four Learning Rules Against Human fMRI [0.0]
同一の畳み込みアーキテクチャに適用された,バックプロパゲーション(BP),フィードバックアライメント(FA),予測符号化(PC),スパイクタイミング依存塑性(STDP)の4つの学習ルールを比較した。
初期の視覚的アライメントは主にアーキテクチャ駆動であり、監視対象は遅延アライメントを駆動する。
論文 参考訳(メタデータ) (2026-04-18T06:53:35Z) - Bridging Critical Gaps in Convergent Learning: How Representational Alignment Evolves Across Layers, Training, and Distribution Shifts [1.9458156037869137]
収束学習は、神経システムが同様の内部表現に到達する度合いである。
数十の視覚モデルと数千の層対比較にまたがる収束学習の大規模監査を行う。
発見は、表現の収束に対する理解において重要なギャップを埋め、神経科学とAIに影響を及ぼす。
論文 参考訳(メタデータ) (2025-02-26T00:04:24Z) - Deep Neural Networks Tend To Extrapolate Predictably [51.303814412294514]
ニューラルネットワークの予測は、アウト・オブ・ディストリビューション(OOD)入力に直面した場合、予測不可能で過信される傾向がある。
我々は、入力データがOODになるにつれて、ニューラルネットワークの予測が一定値に向かう傾向があることを観察する。
我々は、OOD入力の存在下でリスクに敏感な意思決定を可能にするために、私たちの洞察を実際に活用する方法を示します。
論文 参考訳(メタデータ) (2023-10-02T03:25:32Z) - Neural networks trained with SGD learn distributions of increasing
complexity [78.30235086565388]
勾配降下法を用いてトレーニングされたニューラルネットワークは、まず低次入力統計を用いて入力を分類する。
その後、トレーニング中にのみ高次の統計を利用する。
本稿では,DSBと他の単純度バイアスとの関係について論じ,学習における普遍性の原理にその意味を考察する。
論文 参考訳(メタデータ) (2022-11-21T15:27:22Z) - An Unsupervised STDP-based Spiking Neural Network Inspired By
Biologically Plausible Learning Rules and Connections [10.188771327458651]
スパイク刺激依存性可塑性(STDP)は脳の一般的な学習規則であるが、STDPだけで訓練されたスパイクニューラルネットワーク(SNN)は非効率であり、性能が良くない。
我々は適応的なシナプスフィルタを設計し、SNNの表現能力を高めるために適応的なスパイキングしきい値を導入する。
我々のモデルは、MNISTおよびFashionMNISTデータセットにおける教師なしSTDPベースのSNNの最先端性能を実現する。
論文 参考訳(メタデータ) (2022-07-06T14:53:32Z) - Semi-supervised Contrastive Learning with Similarity Co-calibration [72.38187308270135]
SsCL(Semi-supervised Contrastive Learning)と呼ばれる新しいトレーニング戦略を提案する。
ssclは、自己教師付き学習におけるよく知られたコントラスト損失と、半教師付き学習におけるクロスエントロピー損失を組み合わせる。
SsCLはより差別的な表現を生じさせ,ショット学習に有益であることを示す。
論文 参考訳(メタデータ) (2021-05-16T09:13:56Z) - A Simple Framework for Contrastive Learning of Visual Representations [116.37752766922407]
本稿では,視覚表現のコントラスト学習のためのシンプルなフレームワークであるSimCLRについて述べる。
我々は,データ拡張の構成が効果的な予測タスクを定義する上で重要な役割を担っていることを示す。
我々は、ImageNet上での自己教師付き半教師付き学習において、従来の手法よりもかなり優れています。
論文 参考訳(メタデータ) (2020-02-13T18:50:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。