論文の概要: GradPCA: Leveraging NTK Alignment for Reliable Out-of-Distribution Detection

• arxiv url: http://arxiv.org/abs/2505.16017v1
• Date: Wed, 21 May 2025 21:00:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-23 17:12:47.907132
• Title: GradPCA: Leveraging NTK Alignment for Reliable Out-of-Distribution Detection
• Title（参考訳）: GradPCA: 信頼性の高いアウト・オブ・ディストリビューション検出のためのNTKアライメントの活用
• Authors: Mariia Seleznova, Hung-Hsu Chou, Claudio Mayrink Verdun, Gitta Kutyniok,
• Abstract要約: ニューラル・タンジェント・カーネル(NTK)アライメントによって誘導されるニューラルネットワーク勾配の低ランク構造を利用する、アウト・オブ・ディストリビューション(OOD)検出法であるGradPCAを紹介する。 GradPCAは、勾配クラス平均に対して主成分分析(PCA)を適用し、標準画像分類ベンチマークにおける既存の手法よりも一貫したパフォーマンスを実現する。
• 参考スコア（独自算出の注目度）: 17.27186039164253
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: We introduce GradPCA, an Out-of-Distribution (OOD) detection method that exploits the low-rank structure of neural network gradients induced by Neural Tangent Kernel (NTK) alignment. GradPCA applies Principal Component Analysis (PCA) to gradient class-means, achieving more consistent performance than existing methods across standard image classification benchmarks. We provide a theoretical perspective on spectral OOD detection in neural networks to support GradPCA, highlighting feature-space properties that enable effective detection and naturally emerge from NTK alignment. Our analysis further reveals that feature quality -- particularly the use of pretrained versus non-pretrained representations -- plays a crucial role in determining which detectors will succeed. Extensive experiments validate the strong performance of GradPCA, and our theoretical framework offers guidance for designing more principled spectral OOD detectors.
• Abstract（参考訳）: ニューラル・タンジェント・カーネル(NTK)アライメントによって誘導されるニューラルネットワーク勾配の低ランク構造を利用する、アウト・オブ・ディストリビューション(OOD)検出法であるGradPCAを紹介する。 GradPCAは、勾配クラス平均に対して主成分分析(PCA)を適用し、標準画像分類ベンチマークにおける既存の手法よりも一貫したパフォーマンスを実現する。 我々は,GradPCAをサポートするニューラルネットワークにおけるスペクトルOOD検出に関する理論的視点を提供し,NTKアライメントから有効検出と自然発生を可能にする特徴空間特性を強調した。 我々の分析は、特に事前訓練された表現と非事前訓練された表現の使用が、どの検出器が成功するかを決定する上で重要な役割を担っていることを明らかにしている。 広汎な実験によりGradPCAの強い性能が検証され、我々の理論フレームワークはより原理化されたOOD検出器を設計するためのガイダンスを提供する。

関連論文リスト

• Advancing Out-of-Distribution Detection via Local Neuroplasticity [60.53625435889467]
  本稿では,コルモゴロフ・アルノルドネットワーク(KAN)の局所神経可塑性特性を利用した新しいOOD検出法を提案する。 本手法は,トレーニング対象のカンの活性化パターンとトレーニング対象のOOD検出パターンを比較した。 画像および医用領域のベンチマークに対するアプローチを検証し、最先端技術と比較して優れた性能と堅牢性を示す。
  論文  参考訳（メタデータ） (2025-02-20T11:13:41Z)
• Unifying Unsupervised Graph-Level Anomaly Detection and Out-of-Distribution Detection: A Benchmark [73.58840254552656]
  近年,非教師付きグラフレベルの異常検出(GLAD)と教師なしグラフレベルのアウト・オブ・ディストリビューション(OOD)検出が注目されている。 教師なしアンダーラインtextbfGraphレベルアンダーラインtextbfOOD と anomaunderlinetextbfLy underlinetextbfDetection (ourmethod) に対するアンダーラインtextbfUnifiedアンダーラインtextbffBenchmark を提案する。 私たちのベンチマークには35のデータセットが含まれています
  論文  参考訳（メタデータ） (2024-06-21T04:07:43Z)
• Kernel PCA for Out-of-Distribution Detection [26.49607709559048]
  ディープニューラルネットワーク(DNN)の信頼性には,アウト・オブ・ディストリビューション(OoD)検出が不可欠である 我々は、OoD検出にKernel PCA(KPCA)のフレームワークを活用し、主成分が分散する部分空間におけるInDとOoDデータの分離性を主張する適切な非線形カーネルを求める。
  論文  参考訳（メタデータ） (2024-02-05T12:21:16Z)
• GROOD: Gradient-Aware Out-of-Distribution Detection [11.862922321532817]
  現実世界のアプリケーションにおけるディープラーニングモデルの信頼性を確保するためには、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。 In-distriion (ID) トレーニングデータから直接 OOD プロトタイプを抽出し,クラスプロトタイプを演算する GRADient-Aware Out-Of-Distribution Detection (GROOD) を提案する。 人工OODプロトタイプに関する最寄りのクラス-プロトタイプ損失関数の勾配を解析することにより,本手法は分布内とOOD試料の明確な分離を実現する。
  論文  参考訳（メタデータ） (2023-12-22T04:28:43Z)
• Rank-DETR for High Quality Object Detection [52.82810762221516]
  高性能なオブジェクト検出器は、バウンディングボックス予測の正確なランキングを必要とする。 本研究では, 簡易かつ高性能なDETR型物体検出器について, 一連のランク指向設計を提案して紹介する。
  論文  参考訳（メタデータ） (2023-10-13T04:48:32Z)
• Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
  我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。 GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
  論文  参考訳（メタデータ） (2023-02-06T16:38:43Z)
• Plugin estimators for selective classification with out-of-distribution detection [67.28226919253214]
  現実世界の分類器は、信頼性の低いサンプルの予測を控えることの恩恵を受けることができる。 これらの設定は、選択分類(SC)とアウト・オブ・ディストリビューション(OOD)の検出文献において広範囲に研究されている。 OOD検出による選択分類に関する最近の研究は、これらの問題の統一的な研究を議論している。 本稿では,既存の手法を理論的に基礎づけ,有効かつ一般化したSCOD用プラグイン推定器を提案する。
  論文  参考訳（メタデータ） (2023-01-29T07:45:17Z)
• Unsupervised learning of disentangled representations in deep restricted kernel machines with orthogonality constraints [15.296955630621566]
  Constr-DRKMは、非教師なしデータ表現の学習のためのディープカーネル手法である。 本研究では,不整合特徴学習における提案手法の有効性を定量的に評価する。
  論文  参考訳（メタデータ） (2020-11-25T11:40:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。