論文の概要: Grounding Representation Similarity with Statistical Testing

• arxiv url: http://arxiv.org/abs/2108.01661v1
• Date: Tue, 3 Aug 2021 17:58:16 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-04 15:20:16.889640
• Title: Grounding Representation Similarity with Statistical Testing
• Title（参考訳）: 統計的検査による接地表現の類似性
• Authors: Frances Ding, Jean-Stanislas Denain, Jacob Steinhardt
• Abstract要約: 我々は,機能的行動に影響を与える変化や,そうでない変化に対する特異性に対して,尺度は敏感であるべきだと論じる。 我々は、分布シフトの正確性や堅牢性など、様々な機能的挙動を通じてこれを定量化する。 現在のメトリクスはさまざまな弱点を示しており、古典的なベースラインが驚くほどうまく機能していることに気付き、すべてのメトリクスが失敗しているように見える設定を強調しています。
• 参考スコア（独自算出の注目度）: 8.296135566684065
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: To understand neural network behavior, recent works quantitatively compare different networks' learned representations using canonical correlation analysis (CCA), centered kernel alignment (CKA), and other dissimilarity measures. Unfortunately, these widely used measures often disagree on fundamental observations, such as whether deep networks differing only in random initialization learn similar representations. These disagreements raise the question: which, if any, of these dissimilarity measures should we believe? We provide a framework to ground this question through a concrete test: measures should have sensitivity to changes that affect functional behavior, and specificity against changes that do not. We quantify this through a variety of functional behaviors including probing accuracy and robustness to distribution shift, and examine changes such as varying random initialization and deleting principal components. We find that current metrics exhibit different weaknesses, note that a classical baseline performs surprisingly well, and highlight settings where all metrics appear to fail, thus providing a challenge set for further improvement.
• Abstract（参考訳）: ニューラルネットワークの振る舞いを理解するために、最近の研究は、正準相関分析(cca)、中心核アライメント(cka)、その他の相似性尺度を用いて、異なるネットワークの学習表現を定量的に比較している。 残念なことに、これらの広く使われている尺度は、例えば、ランダムな初期化でのみ異なるディープネットワークが同様の表現を学ぶなど、基本的な観測に異を唱えることが多い。 これらの意見の相違は、どちらが、もし、この相違策を信じるべきかという疑問を提起する。 具体的なテストを通じて、この問題を根拠にするためのフレームワークを提供する: 測定は機能的振る舞いに影響を与える変化や、そうでない変化に対する特異性に敏感でなければならない。 我々は,分布シフトに対する精度の検証や頑健性,ランダム初期化の変化や主成分の削除など,様々な機能的動作を通じてこれを定量化する。 現在のメトリクスにはさまざまな弱点があることに気付き、古典的なベースラインが驚くほどうまく機能していることに気付き、すべてのメトリクスが失敗しているように見える設定を強調します。

関連論文リスト

• The diameter of a stochastic matrix: A new measure for sensitivity analysis in Bayesian networks [1.2699007098398807]
  我々は、慣れ親しんだ全変動距離に基づくロバストネス法は、不特定性に対するロバストネスに、よりシンプルで価値のある境界をもたらすと論じる。 このような境界を導出するために、直径と呼ばれる条件付き確率表への依存の新たな尺度を導入する。
  論文  参考訳（メタデータ） (2024-07-05T17:22:12Z)
• GIT: Detecting Uncertainty, Out-Of-Distribution and Adversarial Samples using Gradients and Invariance Transformations [77.34726150561087]
  本稿では,ディープニューラルネットワークにおける一般化誤差検出のための総合的アプローチを提案する。 GITは勾配情報と不変変換の利用を組み合わせる。 本実験は,各種ネットワークアーキテクチャの最先端技術と比較して,GITの優れた性能を示すものである。
  論文  参考訳（メタデータ） (2023-07-05T22:04:38Z)
• Align, Perturb and Decouple: Toward Better Leverage of Difference Information for RSI Change Detection [24.249552791014644]
  変化検出は、リモートセンシング画像(RSI)解析において広く採用されている手法である。 そこで我々は,アライメント,摂動,デカップリングといった差分情報を完全に活用するための一連の操作を提案する。
  論文  参考訳（メタデータ） (2023-05-30T03:39:53Z)
• Variational Inference: Posterior Threshold Improves Network Clustering Accuracy in Sparse Regimes [2.5782420501870296]
  本稿では,各反復後のコミュニティ割り当ての後部をハードしきい値にすることで,変分推論法を改善するための簡易な方法を提案する。 提案手法は,ネットワークの平均ノード次数が有界であっても,真のコミュニティラベルを収束させ,正確に復元可能であることを示す。
  論文  参考訳（メタデータ） (2023-01-12T00:24:54Z)
• Reliability of CKA as a Similarity Measure in Deep Learning [17.555458413538233]
  我々はCKA感度を多種多様な単純な変換に特徴付ける分析を行う。 CKA類似度測定のいくつかの弱点について検討し、予期せぬ結果や反直感的な結果をもたらす状況を示す。 以上の結果から,CKAの値はモデルの機能的振る舞いにかなりの変化を伴わずに容易に操作できることが示唆された。
  論文  参考訳（メタデータ） (2022-10-28T14:32:52Z)
• E-detectors: a nonparametric framework for sequential change detection [86.15115654324488]
  逐次的変化検出のための基本的かつ汎用的なフレームワークを開発する。 私たちの手順は、平均走行距離のクリーンで無症状な境界が伴います。 統計的および計算効率の両方を達成するために,これらの混合物を設計する方法を示す。
  論文  参考訳（メタデータ） (2022-03-07T17:25:02Z)
• Uncertainty Modeling for Out-of-Distribution Generalization [56.957731893992495]
  特徴統計を適切に操作することで、ディープラーニングモデルの一般化能力を向上させることができると論じる。 一般的な手法では、特徴統計を学習した特徴から測定された決定論的値とみなすことが多い。 我々は、学習中に合成された特徴統計を用いて、領域シフトの不確かさをモデル化することにより、ネットワークの一般化能力を向上させる。
  論文  参考訳（メタデータ） (2022-02-08T16:09:12Z)
• Deconfounding Scores: Feature Representations for Causal Effect Estimation with Weak Overlap [140.98628848491146]
  推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。 分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。 特に,この手法が標準正規化の魅力的な代替となることを示す。
  論文  参考訳（メタデータ） (2021-04-12T18:50:11Z)
• Tangent Space Sensitivity and Distribution of Linear Regions in ReLU Networks [0.0]
  我々は, 接空間における対角安定性を考察し, 安定度を特徴付けるために接空間感度を提案する。 フィードフォワード完全連結ReLUネットワークに対する計算容易な境界と経験的測度を導出する。 我々の実験は、単純な境界や測度でさえ経験的一般化ギャップと関連していることを示唆している。
  論文  参考訳（メタデータ） (2020-06-11T20:02:51Z)
• Learning from Aggregate Observations [82.44304647051243]
  本研究では,一組のインスタンスに監視信号が与えられる集合観察から学習する問題について検討する。 本稿では,多種多様な集合観測に適合する一般的な確率的枠組みを提案する。 単純な極大解は様々な微分可能なモデルに適用できる。
  論文  参考訳（メタデータ） (2020-04-14T06:18:50Z)
• Optimal Change-Point Detection with Training Sequences in the Large and Moderate Deviations Regimes [72.68201611113673]
  本稿では,情報理論の観点から,新しいオフライン変化点検出問題について検討する。 基礎となる事前および変更後分布の知識は分かっておらず、利用可能なトレーニングシーケンスからのみ学習できると仮定する。
  論文  参考訳（メタデータ） (2020-03-13T23:39:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。