論文の概要: Measuring the Measures: Discriminative Capacity of Representational Similarity Metrics Across Model Families
- arxiv url: http://arxiv.org/abs/2509.04622v1
- Date: Thu, 04 Sep 2025 19:11:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-08 14:27:25.392651
- Title: Measuring the Measures: Discriminative Capacity of Representational Similarity Metrics Across Model Families
- Title(参考訳): 尺度の測定:モデル家族間での表現類似度指標の識別能力
- Authors: Jialin Wu, Shreya Saha, Yiqing Bo, Meenakshi Khosla,
- Abstract要約: モデルファミリを分離する能力に基づいて,表現類似度を評価する枠組みを提案する。
信号検出理論,シルエット係数,ROC-AUCの3つの相補的分離性尺度を用いる。
我々は、メトリクスがより厳密なアライメント制約を課すにつれて、分離性が体系的に増加することを示す。
- 参考スコア(独自算出の注目度): 8.045700364123645
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Representational similarity metrics are fundamental tools in neuroscience and AI, yet we lack systematic comparisons of their discriminative power across model families. We introduce a quantitative framework to evaluate representational similarity measures based on their ability to separate model families-across architectures (CNNs, Vision Transformers, Swin Transformers, ConvNeXt) and training regimes (supervised vs. self-supervised). Using three complementary separability measures-dprime from signal detection theory, silhouette coefficients and ROC-AUC, we systematically assess the discriminative capacity of commonly used metrics including RSA, linear predictivity, Procrustes, and soft matching. We show that separability systematically increases as metrics impose more stringent alignment constraints. Among mapping-based approaches, soft-matching achieves the highest separability, followed by Procrustes alignment and linear predictivity. Non-fitting methods such as RSA also yield strong separability across families. These results provide the first systematic comparison of similarity metrics through a separability lens, clarifying their relative sensitivity and guiding metric choice for large-scale model and brain comparisons.
- Abstract(参考訳): 表現類似度指標は神経科学とAIの基本的なツールであるが、モデルファミリー間での識別能力の体系的な比較は欠如している。
モデルファミリアクロスアーキテクチャ(CNN,ビジョントランスフォーマー,スイニングトランスフォーマー,ConvNeXt)とトレーニングシステム(教師付き対自己教師型対自己教師型対自己教師型)を分離する能力に基づいて,表現の類似度を評価するための定量的フレームワークを提案する。
信号検出理論, シルエット係数, ROC-AUCの3つの相補的分離性測定値を用いて, RSA, 線形予測率, Procrustes, ソフトマッチングなどの一般的な指標の識別能力を系統的に評価する。
我々は、メトリクスがより厳密なアライメント制約を課すにつれて、分離性が体系的に増加することを示す。
写像に基づくアプローチの中では、ソフトマッチングが最も分離性が高く、続いてプロクリストアライメントと線形予測が続く。
RSAのような不適合な方法は、家族間で強い分離性をもたらす。
これらの結果は、分離性レンズによる類似度測定を初めて体系的に比較し、その相対感度と大規模モデルと脳の比較のための指標選択を導出する。
関連論文リスト
- Evaluating Representational Similarity Measures from the Lens of Functional Correspondence [1.7811840395202345]
神経科学と人工知能(AI)はどちらも、高次元のニューラルネットワークの解釈という課題に直面している。
表象比較が広く使われているにもかかわらず、重要な疑問が残る: どの指標がこれらの比較に最も適しているのか?
論文 参考訳(メタデータ) (2024-11-21T23:53:58Z) - Synergistic eigenanalysis of covariance and Hessian matrices for enhanced binary classification [72.77513633290056]
本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。
本手法は複雑なパターンと関係を抽出し,分類性能を向上する。
論文 参考訳(メタデータ) (2024-02-14T16:10:42Z) - Duality of Bures and Shape Distances with Implications for Comparing
Neural Representations [6.698235069945606]
ニューラルネットワーク表現間の複数の類似度尺度が提案され、その結果、断片化された研究ランドスケープが生み出された。
第一に、線形回帰、正準相関解析(CCA)、形状距離などの尺度は、全て類似性を定量化するために神経ユニット間の明示的なマッピングを学習する。
第二に、表現類似性分析(RSA)、中心核アライメント(CKA)、正規化されたバーズ類似性(NBS)といった尺度は、すべて要約統計において類似性を定量化する。
論文 参考訳(メタデータ) (2023-11-19T22:17:09Z) - Enriching Disentanglement: From Logical Definitions to Quantitative Metrics [59.12308034729482]
複雑なデータにおける説明的要素を遠ざけることは、データ効率の表現学習にとって有望なアプローチである。
論理的定義と量的指標の関連性を確立し, 理論的に根ざした絡み合いの指標を導出する。
本研究では,非交叉表現の異なる側面を分離することにより,提案手法の有効性を実証的に実証する。
論文 参考訳(メタデータ) (2023-05-19T08:22:23Z) - Variable Importance Matching for Causal Inference [73.25504313552516]
これらの目標を達成するためのModel-to-Matchと呼ばれる一般的なフレームワークについて説明する。
Model-to-Matchは、距離メートル法を構築するために変数重要度測定を使用する。
LASSO を用いて Model-to-Match フレームワークを運用する。
論文 参考訳(メタデータ) (2023-02-23T00:43:03Z) - Representational Multiplicity Should Be Exposed, Not Eliminated [27.495944788838457]
トレーニング中に同様のパフォーマンスを持つ2つの機械学習モデルは、現実世界のパフォーマンス特性を非常に異なるものにすることができる。
これは、表現的多重性(RM)として表されるモデルの内部の明確な違いを意味する。
本研究では,RMを解析するための概念的かつ実験的な設定を導入し,特定のトレーニング手法が他の方法よりも系統的にRMを大きくすることを示す。
論文 参考訳(メタデータ) (2022-06-17T16:53:12Z) - Never mind the metrics -- what about the uncertainty? Visualising
confusion matrix metric distributions [6.566615606042994]
本稿では,不確実性の異なるモデル下での分布を明らかにすることにより,分類器の性能指標について,よりバランスのとれた視点を求める。
我々は、このROC空間内の(そしてそれ以上の)パフォーマンスメトリクスの輪郭の方程式、アニメーション、インタラクティブな可視化を開発します。
私たちの期待は、これらの洞察と視覚化によって、パフォーマンス指標の推定における実質的な不確実性に対する認識がより高くなることです。
論文 参考訳(メタデータ) (2022-06-05T11:54:59Z) - A Novel Intrinsic Measure of Data Separability [0.0]
機械学習では、分類器のパフォーマンスはデータセットの分離性と複雑さに依存する。
私たちは、DSI(Distance-based Separability Index)という本質的な尺度を作成します。
DSIは,データセットの分布が任意の次元に対して同一であるか否かを示す。
論文 参考訳(メタデータ) (2021-09-11T04:20:08Z) - Learning from Aggregate Observations [82.44304647051243]
本研究では,一組のインスタンスに監視信号が与えられる集合観察から学習する問題について検討する。
本稿では,多種多様な集合観測に適合する一般的な確率的枠組みを提案する。
単純な極大解は様々な微分可能なモデルに適用できる。
論文 参考訳(メタデータ) (2020-04-14T06:18:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。