論文の概要: Modeling Visual Cortex with Layerwise Multiscale Manifold Capacity Maximization
- arxiv url: http://arxiv.org/abs/2611.02245v1
- Date: Sun, 01 Nov 2026 22:08:55 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:34:53.74202
- Title: Modeling Visual Cortex with Layerwise Multiscale Manifold Capacity Maximization
- Title(参考訳): 階層的マルチスケールマニフォールド容量最大化による視覚皮質のモデル化
- Abstract要約: 本稿では,この中間損失を,多様体のキャパシティの観点から定式化した効率的な符号化フレームワークを用いて実現するための新しい戦略を提案する。
我々は,マカクの腹側ストリーム階層の3つの領域にまたがる神経データセットの予測能力に対するアプローチを評価した。
- 参考スコア(独自算出の注目度): 18.572411671794434
- License:
- Abstract: Task-optimized deep neural networks have risen to prominence as the most predictive phenomenological models of responses in primate visual cortex, but leave much to be desired from the perspective of biological plausibility. One such limitation is the reliance on precise credit assignment through global backpropagation of error signals. Recent work has shown that this weakness can be circumvented by requiring each subsequent stage to solve a distinct and increasingly complex task, allowing for layerwise local learning signals. We propose a novel strategy for crafting such intermediate losses that uses an efficient coding framework formulated in terms of manifold capacity, and which can be computed using a sequence of {canonical cortical computations}. In particular, we leverage the relationship between the multiscale nature of visual signals and the dilation of receptive field sizes in cascaded visual representations to modulate complexity, allowing for the reapplication of these common loss computations at each stage of the hierarchy. We evaluate our approach on its ability to predict neural datasets spanning three areas of the ventral stream hierarchy in macaques, as well as human psychophysical data on an object classification task. We find that our unsupervised layerwise model matches or exceeds the performance of competitive architecture-matched baselines on all evaluations considered.
- Abstract(参考訳): タスク最適化されたディープニューラルネットワークは、霊長類視覚野の反応の最も予測可能な現象論的モデルとして注目されているが、生物学的な可視性の観点からは、多くのことが望まれている。
そのような制限の一つは、エラー信号のグローバルバックプロパゲーションによる正確な信用割当に依存することである。
最近の研究によると、この弱点は、各段階に異なる、そしてますます複雑な課題を解決し、階層的に局所的な学習信号を可能にすることで回避できる。
本稿では,この中間損失を,多様体のキャパシティの観点から表現した効率的な符号化フレームワークを用いて,正準皮質計算のシーケンスを用いて計算する手法を提案する。
特に,視覚信号のマルチスケールな性質と視覚表現における受容場の大きさの拡張の関係を利用して複雑性を変調し,これらの共通損失計算を階層の各段階で再適用する。
我々は,マカク類における腹側ストリーム階層の3領域にまたがる神経データセットの予測能力と,対象分類タスクにおける人間の心理物理データを評価した。
我々の教師なし階層モデルが、考慮されたすべての評価に基づいて、競合するアーキテクチャに適合したベースラインの性能と一致しているか、あるいは上回っていることが分かりました。
関連論文リスト
- Structural Graph Probing of Vision-Language Models [9.364818672785757]
視覚言語モデル(VLM)は強力なマルチモーダル性能を実現する。
ニューロンの集団間でどのように計算が組織されるかは、いまだに理解されていない。
神経トポロジーのレンズを通してVLMを解析し、各層を層内相関グラフとして表現する。
論文 参考訳(メタデータ) (2026-03-28T01:14:40Z) - Provable Learning of Random Hierarchy Models and Hierarchical Shallow-to-Deep Chaining [58.69016084278948]
我々は、arXiv:2307.02129によって導入された階層的な文脈自由文法を考察し、深層ネットワークと浅層ネットワークの分離を予想する。
弱い条件下では、深い畳み込みネットワークを効率的に訓練し、この関数クラスを学習できることを証明した。
論文 参考訳(メタデータ) (2026-01-27T16:19:54Z) - An unsupervised tour through the hidden pathways of deep neural networks [6.063903439185316]
この論文は、教師なし学習ツールによる隠蔽表現の意味的内容の特徴付けに焦点を当てている。
第3章では、最先端のディープニューラルネットワークにおいて、隠れた層にまたがる確率密度の進化について検討する。
第4章では、ディープニューラルネットワークにおける一般化の問題について検討する。
論文 参考訳(メタデータ) (2025-10-24T15:50:31Z) - A topological description of loss surfaces based on Betti Numbers [8.539445673580252]
多層ニューラルネットワークの場合の損失複雑性を評価するためのトポロジカル尺度を提供する。
損失関数やモデルアーキテクチャの特定のバリエーション、例えば$ell$正規化項の追加やフィードフォワードネットワークでの接続のスキップは、特定のケースにおける損失には影響しない。
論文 参考訳(メタデータ) (2024-01-08T11:20:04Z) - With Greater Distance Comes Worse Performance: On the Perspective of
Layer Utilization and Model Generalization [3.6321778403619285]
ディープニューラルネットワークの一般化は、マシンラーニングにおける主要なオープンな問題の1つだ。
初期のレイヤは一般的に、トレーニングデータとテストデータの両方のパフォーマンスに関する表現を学びます。
より深いレイヤは、トレーニングのリスクを最小限に抑え、テストや不正なラベル付けされたデータとうまく連携できない。
論文 参考訳(メタデータ) (2022-01-28T05:26:32Z) - Anomaly Detection on Attributed Networks via Contrastive Self-Supervised
Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。
このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。
高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文 参考訳(メタデータ) (2021-02-27T03:17:20Z) - Topological obstructions in neural networks learning [67.8848058842671]
損失勾配関数フローのグローバル特性について検討する。
損失関数とそのモースコンプレックスの位相データ解析を用いて,損失面の大域的特性と勾配軌道に沿った局所的挙動を関連付ける。
論文 参考訳(メタデータ) (2020-12-31T18:53:25Z) - Progressive Spatio-Temporal Graph Convolutional Network for
Skeleton-Based Human Action Recognition [97.14064057840089]
本稿では,グラフ畳み込みネットワークのためのコンパクトで問題固有のネットワークを,段階的に自動的に見つける手法を提案する。
骨格に基づく人体行動認識のための2つのデータセットの実験結果から,提案手法は競争力あるいはより優れた分類性能を有することが示された。
論文 参考訳(メタデータ) (2020-11-11T09:57:49Z) - A Trainable Optimal Transport Embedding for Feature Aggregation and its
Relationship to Attention [96.77554122595578]
固定サイズのパラメータ化表現を導入し、与えられた入力セットから、そのセットとトレーニング可能な参照の間の最適な輸送計画に従って要素を埋め込み、集約する。
我々のアプローチは大規模なデータセットにスケールし、参照のエンドツーエンドのトレーニングを可能にすると同時に、計算コストの少ない単純な教師なし学習メカニズムも提供する。
論文 参考訳(メタデータ) (2020-06-22T08:35:58Z) - Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。
このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる
このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
論文 参考訳(メタデータ) (2020-03-13T13:11:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。