論文の概要: Stimulus symmetries can confound representational similarity analyses
- arxiv url: http://arxiv.org/abs/2605.21324v1
- Date: Wed, 20 May 2026 15:51:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.76461
- Title: Stimulus symmetries can confound representational similarity analyses
- Title(参考訳): Stimulus symmetries can confound representational similarity analysis
- Authors: Farhad Pashakhanloo, Jacob A. Zavatone-Veth,
- Abstract要約: ネットワーク入力における対称性は、RTMに基づく解析を混乱させる可能性があることを示す。
これらの現象は、対称性が潜んでいる画像データを符号化するために訓練されたネットワークに存在していることを示す。
- 参考スコア(独自算出の注目度): 8.064168190307209
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: What can representational similarity matrices (RSMs) tell us about a neural code? As the popularity of these summary statistics grows, so too does the need for a more complete characterization of their properties. Here, we show that symmetries in network inputs can confound RSM-based analyses. Stimulus symmetries render many representations functionally equivalent, but these different configurations can lead to different RSMs. These different RSMs reflect qualitatively different representational geometries. We show that stochastic gradient descent or energetic regularization can generate sparse, drifting codes, leading in turn to drifting RSMs. Moreover, we demonstrate that these phenomena are present in networks trained to encode image data, where the symmetry is latent. Our results illustrate the challenges inherent in comparing nonlinear neural codes, when functionally-equivalent representations are not related by a simple rotation.
- Abstract(参考訳): 表現類似度行列(RSM)は、ニューラルネットワークについて何を教えてくれますか?
これらの要約統計の人気が高まるにつれて、それらの性質のより完全な特徴付けも必要になる。
本稿では,ネットワーク入力の対称性が RSM に基づく解析を導出できることを示す。
刺激対称性は多くの表現を機能的に等価に表現するが、これらの異なる構成は異なるRSMをもたらす可能性がある。
これらの異なるRSMは定性的に異なる表現幾何学を反映する。
確率勾配降下あるいはエネルギー正規化はスパース・ドリフト符号を発生させ, ドリフト RSM へと導かれることを示す。
さらに、これらの現象は、対称性が潜んでいる画像データを符号化するように訓練されたネットワークに存在していることを実証する。
この結果から,機能的に等価な表現が単純な回転によって関連付けられていない場合,非線形ニューラルネットワークの比較に固有の課題が示唆された。
関連論文リスト
- Dynamical similarity analysis can identify compositional dynamics developing in RNNs [3.037387520023979]
ニューラルネットワーク(RNN)における合成学習により、動的配向アライメントメトリクスのテストケースを構築することができる。
本稿では,新しい動的類似性解析(DSA)がよりノイズに強いことを示し,従来の指標よりも行動関連表現をより確実に同定する。
論文 参考訳(メタデータ) (2024-10-31T16:07:21Z) - The Empirical Impact of Neural Parameter Symmetries, or Lack Thereof [50.49582712378289]
ニューラル・ネットワーク・アーキテクチャの導入により,ニューラル・パラメータ・対称性の影響について検討する。
我々は,パラメータ空間対称性を低減するために,標準的なニューラルネットワークを改良する2つの手法を開発した。
実験により,パラメータ対称性の経験的影響に関する興味深い観察がいくつか示された。
論文 参考訳(メタデータ) (2024-05-30T16:32:31Z) - Heterogenous Memory Augmented Neural Networks [84.29338268789684]
ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。
学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。
In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
論文 参考訳(メタデータ) (2023-10-17T01:05:28Z) - Symmetry Induces Structure and Constraint of Learning [0.0]
機械学習モデルの学習行動に影響を及ぼすか、決定しないかにかかわらず、損失関数対称性の重要性を明らかにする。
ディープラーニングにおけるミラー対称性の一般的な例としては、再スケーリング、回転、置換対称性がある。
ニューラルネットワークにおける可塑性の喪失や様々な崩壊現象などの興味深い現象を理論的枠組みで説明できることを示す。
論文 参考訳(メタデータ) (2023-09-29T02:21:31Z) - Unsupervised Learning of Invariance Transformations [105.54048699217668]
近似グラフ自己同型を見つけるためのアルゴリズムフレームワークを開発する。
重み付きグラフにおける近似自己同型を見つけるために、このフレームワークをどのように利用できるかについて議論する。
論文 参考訳(メタデータ) (2023-07-24T17:03:28Z) - Hidden symmetries of ReLU networks [17.332539115959708]
一部のネットワークでは、ある層内のニューロンの置換と、ニューロンにおけるパラメータの正のスケーリングが唯一の対称性であり、他のネットワークでは、追加の隠れ対称性が認められる。
本研究では, 層が入力よりも狭いネットワークアーキテクチャでは, 隠れ対称性を持たないパラメータ設定が存在することを証明した。
論文 参考訳(メタデータ) (2023-06-09T18:07:06Z) - Deep Representational Similarity Learning for analyzing neural
signatures in task-based fMRI dataset [81.02949933048332]
本稿では、表現類似度分析(RSA)の深部拡張であるDRSL(Deep Representational similarity Learning)を開発する。
DRSLは、多数の被験者を持つfMRIデータセットにおける様々な認知タスク間の類似性を分析するのに適している。
論文 参考訳(メタデータ) (2020-09-28T18:30:14Z) - Detecting Symmetries with Neural Networks [0.0]
ニューラルネットワークの埋め込み層における構造を広範囲に活用する。
我々は、対称性が存在するかどうかを特定し、入力中の対称性の軌道を特定する。
この例では、グラフの観点で新しいデータ表現を示す。
論文 参考訳(メタデータ) (2020-03-30T17:58:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。