論文の概要: This Looks Distinctly Like That: Grounding Interpretable Recognition in Stiefel Geometry against Neural Collapse
- arxiv url: http://arxiv.org/abs/2603.08374v1
- Date: Mon, 09 Mar 2026 13:36:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-10 15:13:16.097773
- Title: This Looks Distinctly Like That: Grounding Interpretable Recognition in Stiefel Geometry against Neural Collapse
- Title(参考訳): 神経崩壊に対するスティフェル幾何における接地解釈的認識
- Authors: Junhao Jia, Jiaqi Wang, Yunyou Liu, Haodong Jing, Yueyi Wu, Xian Wu, Yefeng Zheng,
- Abstract要約: プロトタイプネットワークは、本質的なケースベースの説明メカニズムを提供するが、その解釈可能性はしばしばプロトタイプの崩壊によって損なわれる。
適応多様体プロトタイプ (AMP) は, クラスプロトタイプを正規直交基底として表現し, ランク1のプロトタイプの崩壊を建設によって実現不可能にする。
AMPは最先端の分類精度を達成し、従来の解釈可能なモデルよりも因果的忠実性を大幅に改善する。
- 参考スコア(独自算出の注目度): 28.864167134877885
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Prototype networks provide an intrinsic case based explanation mechanism, but their interpretability is often undermined by prototype collapse, where multiple prototypes degenerate to highly redundant evidence. We attribute this failure mode to the terminal dynamics of Neural Collapse, where cross entropy optimization suppresses intra class variance and drives class conditional features toward a low dimensional limit. To mitigate this, we propose Adaptive Manifold Prototypes (AMP), a framework that leverages Riemannian optimization on the Stiefel manifold to represent class prototypes as orthonormal bases and make rank one prototype collapse infeasible by construction. AMP further learns class specific effective rank via a proximal gradient update on a nonnegative capacity vector, and introduces spatial regularizers that reduce rotational ambiguity and encourage localized, non overlapping part evidence. Extensive experiments on fine-grained benchmarks demonstrate that AMP achieves state-of-the-art classification accuracy while significantly improving causal faithfulness over prior interpretable models.
- Abstract(参考訳): プロトタイプネットワークは本質的なケースベースの説明メカニズムを提供するが、その解釈可能性はしばしばプロトタイプの崩壊によって損なわれ、複数のプロトタイプは極めて冗長な証拠へと退化する。
この障害モードは,クラス内分散を抑えるクロスエントロピー最適化により,クラス条件特徴を低次元の極限に向けて駆動するニューラル・コラプスの終端ダイナミクスに起因する。
これを緩和するために、Stiefel多様体上のリーマン最適化を活用して、クラスプロトタイプを正規直交基底として表現し、構成によってランク1のプロトタイプの崩壊を可能にするフレームワークであるAdaptive Manifold Prototypes (AMP)を提案する。
AMPはさらに、非負のキャパシティベクトルの近位勾配更新を通じてクラス固有の有効ランクを学習し、回転のあいまいさを減らし、局所化された非重複部分のエビデンスを促進する空間正規化器を導入する。
詳細なベンチマーク実験により、AMPは最先端の分類精度を達成し、従来の解釈可能なモデルよりも因果的忠実性を大幅に向上することが示された。
関連論文リスト
- Learning a Generative Meta-Model of LLM Activations [75.30161960337892]
ネットワークの内部状態の分布を学習する"メタモデル"を作成します。
ステアリング介入前に学んだメタモデルを適用することで、損失が減少するにつれて、流速が向上する。
これらの結果は、生成的メタモデルが制限的な構造的仮定を伴わずに、解釈可能性へのスケーラブルな経路を提供することを示唆している。
論文 参考訳(メタデータ) (2026-02-06T18:59:56Z) - Generative Model Inversion Through the Lens of the Manifold Hypothesis [98.37040155914595]
モデル反転攻撃(MIA)は、訓練されたモデルからクラス表現型サンプルを再構成することを目的としている。
最近の生成的MIAは、生成的敵ネットワークを使用して、反転過程を導く画像の事前学習を行う。
論文 参考訳(メタデータ) (2025-09-24T14:39:25Z) - DNP-Guided Contrastive Reconstruction with a Reverse Distillation Transformer for Medical Anomaly Detection [1.0924595442390774]
医用画像の異常検出は、アノテーションが限られており、自然な画像に比べてドメインギャップが小さいため困難である。
既存の再構成手法は、しばしば凍結した事前訓練されたエンコーダに依存し、ドメイン固有の特徴への適応を制限する。
本稿では,訓練可能なエンコーダとプロトタイプ誘導型再構成を組み合わせた統一的なフレームワークと,ダイバーシティ・アウェア・アライメント・ロス(Diversity-Aware Alignment Loss)を提案する。
論文 参考訳(メタデータ) (2025-08-27T05:12:09Z) - Demystifying Catastrophic Forgetting in Two-Stage Incremental Object Detector [42.40881712297689]
破滅的な忘れ物は主にRoIヘッドに局在している。
NSGP-RePREは2種類のプロトタイプのリプレイを通じて忘れを緩和する。
NSGP-RePREはPascal VOCおよびMS COCOデータセット上で最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-02-08T12:10:02Z) - Variational Classification [51.2541371924591]
我々は,変分オートエンコーダの訓練に用いるエビデンスローバウンド(ELBO)に類似した,モデルの訓練を目的とした変分目的を導出する。
軟質マックス層への入力を潜伏変数のサンプルとして扱うことで, 抽象化された視点から, 潜在的な矛盾が明らかとなった。
我々は、標準ソフトマックス層に見られる暗黙の仮定の代わりに、選択された潜在分布を誘導する。
論文 参考訳(メタデータ) (2023-05-17T17:47:19Z) - Perturbation Analysis of Neural Collapse [24.94449183555951]
分類のためのディープニューラルネットワークのトレーニングには、ゼロトレーニングエラー点を超えるトレーニング損失を最小限にすることが含まれる。
最近の研究は、全ての最小化器が正確な崩壊を示す理想化された制約のない特徴モデルを通して、この挙動を分析している。
本稿では,この現象を,予め定義された特徴行列の近傍に留まらせることで,よりリッチなモデルを提案する。
論文 参考訳(メタデータ) (2022-10-29T17:46:03Z) - Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。
我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。
製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
論文 参考訳(メタデータ) (2022-06-23T14:16:30Z) - Shaping Deep Feature Space towards Gaussian Mixture for Visual
Classification [74.48695037007306]
視覚分類のためのディープニューラルネットワークのためのガウス混合損失関数(GM)を提案する。
分類マージンと可能性正規化により、GM損失は高い分類性能と特徴分布の正確なモデリングの両方を促進する。
提案したモデルは、追加のトレーニング可能なパラメータを使わずに、簡単かつ効率的に実装できる。
論文 参考訳(メタデータ) (2020-11-18T03:32:27Z) - Simple and Effective Prevention of Mode Collapse in Deep One-Class
Classification [93.2334223970488]
深部SVDDにおける超球崩壊を防止するための2つの正則化器を提案する。
第1の正則化器は、標準のクロスエントロピー損失によるランダムノイズの注入に基づいている。
第2の正規化器は、小さすぎるとミニバッチ分散をペナライズする。
論文 参考訳(メタデータ) (2020-01-24T03:44:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。