論文の概要: Improved Robustness and Functional Localization in Topographic CNNs Through Weight Similarity
- arxiv url: http://arxiv.org/abs/2508.00043v1
- Date: Thu, 31 Jul 2025 14:02:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-04 18:08:53.600109
- Title: Improved Robustness and Functional Localization in Topographic CNNs Through Weight Similarity
- Title(参考訳): 重み類似性による地形CNNのロバスト性改善と機能局在化
- Authors: Nhut Truong, Uri Hasson,
- Abstract要約: 2つの空間制約で訓練された地形畳み込みニューラルネットワークを比較した。
重み類似度 (WS) は近隣の単位に類似の重みを生じさせ、アクティベーション類似度 (AS) は単位活性化において類似性を強制する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Topographic neural networks are computational models that can simulate the spatial and functional organization of the brain. Topographic constraints in neural networks can be implemented in multiple ways, with potentially different impacts on the representations learned by the network. The impact of such different implementations has not been systematically examined. To this end, here we compare topographic convolutional neural networks trained with two spatial constraints: Weight Similarity (WS), which pushes neighboring units to develop similar incoming weights, and Activation Similarity (AS), which enforces similarity in unit activations. We evaluate the resulting models on classification accuracy, robustness to weight perturbations and input degradation, and the spatial organization of learned representations. Compared to both AS and standard CNNs, WS provided three main advantages: i) improved robustness to noise, also showing higher accuracy under weight corruption; ii) greater input sensitivity, reflected in higher activation variance; and iii) stronger functional localization, with units showing similar activations positioned at closer distances. In addition, WS produced differences in orientation tuning, symmetry sensitivity, and eccentricity profiles of units, indicating an influence of this spatial constraint on the representational geometry of the network. Our findings suggest that during end-to-end training, WS constraints produce more robust representations than AS or non-topographic CNNs. These findings also suggest that weight-based spatial constraints can shape feature learning and functional organization in biophysical inspired models.
- Abstract(参考訳): トポグラフィーニューラルネットワークは、脳の空間的および機能的構造をシミュレートできる計算モデルである。
ニューラルネットワークにおける地形制約は、ネットワークによって学習された表現に潜在的に異なる影響を伴って、複数の方法で実装することができる。
このような異なる実装の影響は、体系的に検討されていない。
この目的のために,2つの空間的制約で訓練された地形畳み込みニューラルネットワークを比較した。これは,隣接するユニットに同様の重みを発達させる重み類似性 (WS) と,ユニットアクティベーションにおいて類似性を強制するアクティベーション類似性 (AS) である。
本研究では, 分類精度, 重量摂動に対する頑健性, 入力劣化, 学習表現の空間的構造について検討した。
ASと標準CNNの両方と比較して、WSは3つの大きな利点を提供した。
一 騒音に対する頑健性を向上し、かつ、重量汚損時の精度を高めること。
二 高い入力感度、高いアクティベーション分散に反映すること、及び
三 より強力な機能的局所化、類似の活性化を近距離に示す単位
さらに、WSは単位の配向チューニング、対称性感度、偏心プロファイルの差異を生じさせ、この空間的制約がネットワークの表現幾何学に与える影響を示している。
この結果から,WS 制約は AS や非トポグラフィ CNN よりも頑健な表現を生み出すことが示唆された。
また, 重みに基づく空間的制約は, 生体物理モデルにおいて特徴学習や機能的構造を形成できる可能性が示唆された。
関連論文リスト
- TDSNNs: Competitive Topographic Deep Spiking Neural Networks for Visual Cortex Modeling [1.732019193517103]
地形深部スパイクニューラルネットワーク(SNN)のための新しい時空間制約損失関数を提案する。
以上の結果より,STCは視覚皮質領域に分布する代表的地形特徴を効果的に生成できることが示唆された。
また,TDSNNにおけるスパイク機構による時間情報処理の効率化と安定化を図る。
論文 参考訳(メタデータ) (2025-08-06T09:53:39Z) - Self-similarity Analysis in Deep Neural Networks [33.89368443432198]
いくつかのディープニューラルネットワークは、特徴表現やパラメータ分布に強い階層的自己相似性を示す。
本稿では,隠蔽層に構築された特徴ネットワークの自己相似性を調べるために,隠蔽層ニューロンの出力特性に基づく複雑なネットワーク手法を提案する。
論文 参考訳(メタデータ) (2025-07-23T09:01:53Z) - Topology-Aware Modeling for Unsupervised Simulation-to-Reality Point Cloud Recognition [63.55828203989405]
我々はオブジェクトポイントクラウド上でSim2Real UDAのための新しいTopology-Aware Modeling (TAM)フレームワークを紹介する。
提案手法は,低レベルの高周波3次元構造を特徴とするグローバル空間トポロジを利用して,領域間隙を緩和する。
本稿では,クロスドメイン・コントラスト学習と自己学習を組み合わせた高度な自己学習戦略を提案する。
論文 参考訳(メタデータ) (2025-06-26T11:53:59Z) - Physics-Driven Autoregressive State Space Models for Medical Image Reconstruction [5.208643222679356]
医用画像再構成のための物理駆動型自己回帰状態空間モデル(MambaRoll)を提案する。
MambaRollは、最先端のデータ駆動方式と物理駆動方式を一貫して上回っている。
論文 参考訳(メタデータ) (2024-12-12T14:59:56Z) - Cognitive Networks and Performance Drive fMRI-Based State Classification Using DNN Models [0.0]
我々は、個々の認知状態を分類するために、構造的に異なる2つのDNNモデルと相補的なDNNモデルを用いる。
アーキテクチャ上の違いにもかかわらず、両者のモデルが常に予測精度と個人の認知性能との間に堅牢な関係を生んでいることを示す。
論文 参考訳(メタデータ) (2024-08-14T15:25:51Z) - Enhancing lattice kinetic schemes for fluid dynamics with Lattice-Equivariant Neural Networks [79.16635054977068]
我々はLattice-Equivariant Neural Networks (LENNs)と呼ばれる新しい同変ニューラルネットワークのクラスを提案する。
我々の手法は、ニューラルネットワークに基づく代理モデルLattice Boltzmann衝突作用素の学習を目的とした、最近導入されたフレームワーク内で開発されている。
本研究は,実世界のシミュレーションにおける機械学習強化Lattice Boltzmann CFDの実用化に向けて展開する。
論文 参考訳(メタデータ) (2024-05-22T17:23:15Z) - Improved Generalization of Weight Space Networks via Augmentations [53.87011906358727]
深度重み空間(DWS)における学習は新たな研究方向であり、2次元および3次元神経場(INRs, NeRFs)への応用
我々は、この過度な適合の理由を実証的に分析し、主要な理由は、DWSデータセットの多様性の欠如であることがわかった。
そこで本研究では,重み空間におけるデータ拡張戦略について検討し,重み空間に適応したMixUp法を提案する。
論文 参考訳(メタデータ) (2024-02-06T15:34:44Z) - Multilayer Multiset Neuronal Networks -- MMNNs [55.2480439325792]
本研究は,2層以上の類似性ニューロンを組み込んだ多層神経回路網について述べる。
また,回避すべき画像領域に割り当てられる反プロトタイプ点の利用についても検討した。
論文 参考訳(メタデータ) (2023-08-28T12:55:13Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - On the benefits of robust models in modulation recognition [53.391095789289736]
畳み込み層を用いたディープニューラルネットワーク(DNN)は、通信における多くのタスクにおいて最先端である。
画像分類のような他の領域では、DNNは敵の摂動に弱いことが示されている。
最新モデルの堅牢性をテストするための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2021-03-27T19:58:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。