論文の概要: Beyond Activation Alignment: The Geometry of Neural Sensitivity
- arxiv url: http://arxiv.org/abs/2605.03222v2
- Date: Thu, 07 May 2026 08:48:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 17:36:06.05997
- Title: Beyond Activation Alignment: The Geometry of Neural Sensitivity
- Title(参考訳): アクティベーションアライメントを超えて:神経感受性の幾何学
- Authors: Amirhossein Yavari, Farnaz Zamani Esfahlani,
- Abstract要約: そこで我々は,小摂動を識別する表現能力に着目した,局所的測位可能な情報に基づくフレームワークを提案する。
対称正定値行列の多様体上の対数スペクトル距離を用いてこれらの正規化シグネチャを比較する。
経験的に、このフレームワークは、独立に訓練された人工ニューラルネットワークで対応するレイヤのリカバリを可能にする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Activation-alignment measures such as Representational Similarity Analysis (RSA), Canonical Correlation Analysis (CCA), and Centered Kernel Alignment (CKA) are widely used to compare biological and artificial neural representations. Recent theoretical work interprets many of these methods as assessing agreement between optimal linear readouts over broad families of global tasks. However, agreement at the level of global readouts does not determine how a system uses local stimulus evidence. Specifically, representations may align in activation space yet differ in their sensitivity to small perturbations. To address this challenge, we introduce a complementary framework based on local decodable information, which focuses on a representation's ability, under noise, to discriminate small perturbations within a specified stimulus-coordinate subspace. Building on Fisher information and local representation geometry, we summarize each representation using the expected projected pullback/Fisher metric over that subspace. This formulation induces a second-moment family of local discrimination tasks, for which the resulting operator provides a minimal, complete dataset-level summary of expected discriminability. We compare these regularized signatures using a log-spectral distance on the manifold of symmetric positive definite (SPD) matrices, yielding the Spectral Riemannian Alignment Score (S-RAS) and a uniform multiplicative certificate over the corresponding family of lifted task values. Empirically, this framework enables the recovery of corresponding layers across independently trained artificial neural networks, supports transferable class-conditional probes, reveals controlled dissociations between standard and robust training, and uncovers stimulus-coordinate family effects across mouse visual cortex using the Allen Brain Observatory static gratings dataset.
- Abstract(参考訳): Representational similarity Analysis (RSA)、Canonical correlation Analysis (CCA)、Centered Kernel Alignment (CKA)といった活性化調整法は、生物学的および人工的な神経表現を比較するために広く用いられている。
近年の理論的研究は、これらの手法の多くを、グローバルタスクの幅広いファミリーに対する最適線形読み出しの一致を評価するものとして解釈している。
しかしながら、グローバルな読み出しレベルにおける合意は、システムがローカルな刺激的証拠をどのように利用するかを決定するものではない。
特に、表現は活性化空間で整列するが、小さな摂動に対する感度は異なる。
この課題に対処するために,特定刺激座標部分空間内の小さな摂動を識別するために,雑音下での表現能力に着目した局所的消音情報に基づく補完的枠組みを導入する。
フィッシャー情報と局所表現幾何学に基づいて,その部分空間上の予測されたプルバック/フィッシャー計量を用いて各表現を要約する。
この定式化は局所的な識別タスクの2番目のモードファミリを誘導し、結果として得られる演算子は、予測される識別可能性の最小限のデータセットレベルサマリを提供する。
対称正定値(SPD)行列の多様体上での対数スペクトル距離を用いてこれらの正規化シグネチャを比較し、S-RAS(Spectral Riemannian Alignment Score)と、リフトされたタスク値の対応する族に対する一様乗算証明を得る。
経験的に、このフレームワークは独立してトレーニングされた人工知能ニューラルネットワークで対応するレイヤのリカバリを可能にし、転送可能なクラス条件プローブをサポートし、標準と堅牢なトレーニングの間の制御された解離を明らかにし、Allen Brain Observatory静的グレーティングデータセットを使用してマウス視覚皮質全体での刺激-調整された家族効果を明らかにする。
関連論文リスト
- Divide-and-Conquer Approach to Holistic Cognition in High-Similarity Contexts with Limited Data [73.20753799870282]
我々はDHCNet(Divide-and-Conquer Holistic Cognition Network)を提案する。
DHCNetは、空間的に関連する微妙な相違点に包括的キューを分解することで、分割・対数戦略を実装している。
DHCNetは、広く使われている5つのUltra-FGVCデータセットで顕著なパフォーマンスを実現している。
論文 参考訳(メタデータ) (2026-04-21T11:17:09Z) - Curvature-Aware PCA with Geodesic Tangent Space Aggregation for Semi-Supervised Learning [52.452902154360565]
GTSA-PCAは主成分分析の幾何学的拡張である。
曲率認識と測地的整合性を統合されたスペクトルフレームワークに統合する。
以上の結果から,GTSA-PCAは次元減少に対する統計的および幾何学的アプローチの原則的ブリッジとして位置づけられた。
論文 参考訳(メタデータ) (2026-04-20T20:36:36Z) - Implicit Neural Representations: A Signal Processing Perspective [54.57279006229212]
入射神経表現(INR)は、離散的なサンプルデータから連続的な機能的表現へと、信号モデリングの根本的な変化を示す。
本稿では、信号処理の観点からのINRの進化を考察し、スペクトル挙動、サンプリング理論、マルチスケール表現を強調する。
医療・レーダ画像の逆問題,圧縮,3次元シーン表現など,幅広い応用分野におけるINRの有用性を強調した。
論文 参考訳(メタデータ) (2026-04-16T14:12:06Z) - Representation Geometry as a Diagnostic for Out-of-Distribution Robustness [0.5978543974412219]
In-distribution Embeddingsからクラス条件の相互k-nearest-neighborグラフを構成する幾何学的診断フレームワークを提案する。
スペクトルの複雑さが低く、平均曲率が高くなると、チェックポイント全体にわたって強い分布外(OOD)の精度が常に予測される。
この結果から,表現幾何学はラベル無しで解釈可能な診断を可能にし,教師なしチェックポイント選択の信頼性をサポートできることが示唆された。
論文 参考訳(メタデータ) (2026-02-03T19:13:36Z) - Interpretability of the Intent Detection Problem: A New Approach [0.0]
リカレントニューラルネットワークが意図検出タスクを解くための内部メカニズムは理解されていない。
動的システム理論を用いて、RNNアーキテクチャがこの問題にどのように対処するかを分析する。
我々のフレームワークは、読み出しアライメントから幾何学的分離を分離し、実世界の性能格差に対する新しいメカニスティックな説明を提供する。
論文 参考訳(メタデータ) (2026-01-23T20:27:47Z) - Functional embeddings enable Aggregation of multi-area SEEG recordings over subjects and sessions [0.11083289076967894]
多領域局所場電位から各電極の主観的機能識別を学習する表現学習フレームワークを提案する。
フレキシブルレスト/ムーブメント記録セッション中に収集した基底神経節-視床領域にまたがる20オブジェクトデータセットを用いて,本フレームワークの評価を行った。
論文 参考訳(メタデータ) (2025-10-31T01:23:05Z) - VIKING: Deep variational inference with stochastic projections [48.946143517489496]
変分平均場近似は、現代の過度にパラメータ化されたディープニューラルネットワークと競合する傾向がある。
パラメータ空間の2つの独立線型部分空間を考える単純な変分族を提案する。
これにより、オーバーパラメトリゼーションを反映した、完全に相関した近似後部を構築することができる。
論文 参考訳(メタデータ) (2025-10-27T15:38:35Z) - What Representational Similarity Measures Imply about Decodable Information [6.5879381737929945]
我々は、デコーディングの観点から、いくつかのニューラルネットワーク類似度尺度が等価に動機付けられることを示した。
CKAやCCAといった手法は、デコードタスクの分散を通して最適な線形読み込み間の平均的なアライメントを定量化します。
全体として、我々の研究は、神経表現の幾何学と情報を線形に復号する能力の密接な関係を実証している。
論文 参考訳(メタデータ) (2024-11-12T21:37:10Z) - Adaptive Local-Component-aware Graph Convolutional Network for One-shot
Skeleton-based Action Recognition [54.23513799338309]
骨格に基づく行動認識のための適応的局所成分認識グラフ畳み込みネットワークを提案する。
我々の手法はグローバルな埋め込みよりも強力な表現を提供し、我々のモデルが最先端に到達するのに役立ちます。
論文 参考訳(メタデータ) (2022-09-21T02:33:07Z) - When Relation Networks meet GANs: Relation GANs with Triplet Loss [110.7572918636599]
GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である
本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。
ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
論文 参考訳(メタデータ) (2020-02-24T11:35:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。