論文の概要: Evaluating Representational Similarity Measures from the Lens of Functional Correspondence

• arxiv url: http://arxiv.org/abs/2411.14633v1
• Date: Thu, 21 Nov 2024 23:53:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-25 15:03:42.055797
• Title: Evaluating Representational Similarity Measures from the Lens of Functional Correspondence
• Title（参考訳）: 機能対応レンズによる表現類似度の評価
• Authors: Yiqing Bo, Ansh Soni, Sudhanshu Srivastava, Meenakshi Khosla,
• Abstract要約: 神経科学と人工知能(AI)はどちらも、高次元のニューラルネットワークの解釈という課題に直面している。 表象比較が広く使われているにもかかわらず、重要な疑問が残る: どの指標がこれらの比較に最も適しているのか?
• 参考スコア（独自算出の注目度）: 1.7811840395202345
• License:
• Abstract: Neuroscience and artificial intelligence (AI) both face the challenge of interpreting high-dimensional neural data, where the comparative analysis of such data is crucial for revealing shared mechanisms and differences between these complex systems. Despite the widespread use of representational comparisons and the abundance classes of comparison methods, a critical question remains: which metrics are most suitable for these comparisons? While some studies evaluate metrics based on their ability to differentiate models of different origins or constructions (e.g., various architectures), another approach is to assess how well they distinguish models that exhibit distinct behaviors. To investigate this, we examine the degree of alignment between various representational similarity measures and behavioral outcomes, employing group statistics and a comprehensive suite of behavioral metrics for comparison. In our evaluation of eight commonly used representational similarity metrics in the visual domain -- spanning alignment-based, Canonical Correlation Analysis (CCA)-based, inner product kernel-based, and nearest-neighbor methods -- we found that metrics like linear Centered Kernel Alignment (CKA) and Procrustes distance, which emphasize the overall geometric structure or shape of representations, excelled in differentiating trained from untrained models and aligning with behavioral measures, whereas metrics such as linear predictivity, commonly used in neuroscience, demonstrated only moderate alignment with behavior. These insights are crucial for selecting metrics that emphasize behaviorally meaningful comparisons in NeuroAI research.
• Abstract（参考訳）: 神経科学と人工知能(AI)はどちらも、高次元のニューラルネットワークの解釈という課題に直面している。 表現的比較が広く使われていることと、比較手法の豊富なクラスがあるにもかかわらず、重要な疑問が残る:どの指標がこれらの比較に最も適しているか? 異なる起源や構造(例えば、様々なアーキテクチャ)のモデルを区別する能力に基づいてメトリクスを評価する研究もあるが、別のアプローチは、異なる振る舞いを示すモデルをいかによく区別するかを評価することである。 そこで本研究では,様々な表現類似度尺度と行動結果との整合度について検討し,グループ統計と包括的行動指標を用いて比較を行った。 視覚領域における8つの一般的な表現類似度指標(アライメントベース、カノニカル相関分析(CCA)ベース、内積カーネルベース、最寄りの手法)の評価において、線形中心カーネルアライメント(CKA)やプロクリストス距離(プロクリストス距離)は、訓練されていないモデルから訓練された訓練されたモデルの微分や行動測定との整合性に優れ、一方、神経科学で一般的に使用される線形予測は行動との適度な整合性を示した。 これらの洞察は、NeuroAI研究において行動的に意味のある比較を強調する指標を選択するために不可欠である。

関連論文リスト

• Measuring similarity between embedding spaces using induced neighborhood graphs [10.056989400384772]
  本稿では,ペアの項目表現の類似性を評価するための指標を提案する。 この結果から,類似度とゼロショット分類タスクの精度が類似度と相関していることが示唆された。
  論文  参考訳（メタデータ） (2024-11-13T15:22:33Z)
• Analyzing Generative Models by Manifold Entropic Metrics [8.477943884416023]
  抽出可能な情報理論評価指標を新たに導入する。 EMNISTデータセット上の各種正規化フローアーキテクチャと$beta$-VAEを比較した。 私たちの実験で最も興味深い発見は、トレーニング中に整列および非整合表現に収束する誘導バイアスの観点から、モデルアーキテクチャとトレーニング手順のランク付けです。
  論文  参考訳（メタデータ） (2024-10-25T09:35:00Z)
• Supervised Pattern Recognition Involving Skewed Feature Densities [49.48516314472825]
  一致する類似度指数に基づくユークリッド距離の分類ポテンシャルと相似性指数を比較する。 隣接する2つの群の密度間の交点を分類する精度を考慮する。
  論文  参考訳（メタデータ） (2024-09-02T12:45:18Z)
• Differentiable Optimization of Similarity Scores Between Models and Brains [1.5391321019692434]
  線形回帰、CKA(Centered Kernel Alignment)、正規化バーレス類似度(NBS)、角状プロクリスト距離といった類似度は、この類似度を定量化するためにしばしば用いられる。 本稿では、類似度の高いスコアと「良い」スコアを構成するスコアについて調査する新しいツールについて紹介する。 驚くべきことに、高い類似度スコアは、ニューラルデータと整合した方法でタスク関連情報を符号化することを保証していない。
  論文  参考訳（メタデータ） (2024-07-09T17:31:47Z)
• Duality of Bures and Shape Distances with Implications for Comparing Neural Representations [6.698235069945606]
  ニューラルネットワーク表現間の複数の類似度尺度が提案され、その結果、断片化された研究ランドスケープが生み出された。 第一に、線形回帰、正準相関解析(CCA)、形状距離などの尺度は、全て類似性を定量化するために神経ユニット間の明示的なマッピングを学習する。 第二に、表現類似性分析(RSA)、中心核アライメント(CKA)、正規化されたバーズ類似性(NBS)といった尺度は、すべて要約統計において類似性を定量化する。
  論文  参考訳（メタデータ） (2023-11-19T22:17:09Z)
• Similarity of Neural Network Models: A Survey of Functional and Representational Measures [2.56552999376511]
  ニューラルネットワークの類似性を計測して、その振る舞いを理解し、改善することは、非常に重要で研究上の関心事となっている。 ニューラルネットワークの類似性を測定するための2つの相補的視点について概説する: (i) 中間層の活性化の相違を考察する表現的類似性、 (ii) 機能的類似性、そしてモデルが出力の相違を考察する。
  論文  参考訳（メタデータ） (2023-05-10T17:33:48Z)
• Log-Euclidean Signatures for Intrinsic Distances Between Unaligned Datasets [47.20862716252927]
  我々は、多様体学習を用いて、異なるデータセットの固有幾何学構造を比較する。 対数ユークリッド計量の下限に基づいて、理論上動機付けられた新しい距離を定義する。
  論文  参考訳（メタデータ） (2022-02-03T16:37:23Z)
• Scalable Intervention Target Estimation in Linear Models [52.60799340056917]
  因果構造学習への現在のアプローチは、既知の介入目標を扱うか、仮説テストを使用して未知の介入目標を発見する。 本稿では、全ての介入対象を一貫して識別するスケーラブルで効率的なアルゴリズムを提案する。 提案アルゴリズムは、与えられた観測マルコフ同値クラスを介入マルコフ同値クラスに更新することも可能である。
  論文  参考訳（メタデータ） (2021-11-15T03:16:56Z)
• A comprehensive comparative evaluation and analysis of Distributional Semantic Models [61.41800660636555]
  我々は、静的DSMによって生成されたり、BERTによって生成された文脈化されたベクトルを平均化して得られるような、型分布ベクトルの包括的評価を行う。 その結果、予測ベースモデルの優越性は現実よりも明らかであり、ユビキタスではないことが明らかとなった。 我々は認知神経科学からRepresentational similarity Analysis(RSA)の方法論を借りて、分布モデルによって生成された意味空間を検査する。
  論文  参考訳（メタデータ） (2021-05-20T15:18:06Z)
• Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
  本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。 提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。 分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
  論文  参考訳（メタデータ） (2020-11-13T10:53:27Z)
• Learning from Aggregate Observations [82.44304647051243]
  本研究では,一組のインスタンスに監視信号が与えられる集合観察から学習する問題について検討する。 本稿では,多種多様な集合観測に適合する一般的な確率的枠組みを提案する。 単純な極大解は様々な微分可能なモデルに適用できる。
  論文  参考訳（メタデータ） (2020-04-14T06:18:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。