論文の概要: Test Case Prioritization for DNNs via Neural Collapse Instability
- arxiv url: http://arxiv.org/abs/2607.20046v1
- Date: Wed, 22 Jul 2026 11:41:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-23 18:51:38.066144
- Title: Test Case Prioritization for DNNs via Neural Collapse Instability
- Title(参考訳): ニューラル崩壊不安定性を利用したDNNテストケースプライオリティ化
- Abstract要約: 本稿では,端末学習体制における絶対信頼度を相互チェックポイント予測変数に置き換える枠組みを提案する。
実験の結果,NCIPは早期故障発見において,競合するベースラインに比べて高い性能を示すことがわかった。
- 参考スコア(独自算出の注目度): 7.985759413853944
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the widespread deployment of deep neural networks (DNNs) in safety-critical domains, reducing the cost of model validation under limited testing budgets has become increasingly important. Existing test case prioritization techniques often rely on single-checkpoint confidence signals derived from output probabilities. However, DNNs can be confidently wrong, and the confidence margin between the predicted and competing classes is frequently small, which weakens early fault discovery. To address this limitation, we propose a Neural-Collapse-Inspired Prioritization (NCIP) framework that replaces absolute confidence with cross-checkpoint prediction variability in the terminal training regime, where model geometry becomes highly structured. NCIP introduces two key components. First, it selects an NC-guided representative subset of training checkpoints using an equiangularity score of classifier weights, quantified as the standard deviation of pairwise cosine similarities among class weight vectors. Second, it prioritizes test inputs by their prediction variability across the selected checkpoints, surfacing boundary-adjacent and failure-prone samples that are unstable under checkpoint-induced decision boundary shifts. Extensive experiments across multiple datasets and architectures show that NCIP achieves strong performance in early fault discovery compared with competitive baselines, with 1.5 to 16.6 percent RAUC-ALL gains and 4.9 to 20.6 percent RAUC-500 gains under the same testing budget. NCIP further attains the best average performance across all dataset-model pairs.
- Abstract(参考訳): 安全クリティカルなドメインにディープニューラルネットワーク(DNN)が広くデプロイされるようになると、限られたテスト予算の下でのモデル検証コストの削減がますます重要になっている。
既存のテストケース優先順位付け技術は、出力確率から導かれる単一チェックポイント信頼信号に依存することが多い。
しかし、DNNは確実に間違っている可能性があり、予測されたクラスと競合するクラスの間の信頼率はしばしば小さく、早期の故障発見を弱める。
この制限に対処するために,モデル幾何学が高度に構造化される端末学習体制において,絶対信頼度をクロスチェックポイント予測変数に置き換えるニューラル・カラム・インスピレーションド・プライオリティゼーション(NCIP)フレームワークを提案する。
NCIPは2つの重要なコンポーネントを導入している。
まず、分類器重みの等角性スコアを用いて、NC誘導されたトレーニングチェックポイントの代表部分集合を選択し、クラス重みベクトル間の対のコサイン類似性の標準偏差として定量化する。
第二に、テストインプットは、選択されたチェックポイント間での予測変数、チェックポイントによる決定境界シフトの下で不安定な境界隣接サンプル、障害発生サンプルによって優先順位付けされる。
複数のデータセットとアーキテクチャにわたる大規模な実験により、NCIPは競合するベースラインに比べて早期故障発見において高いパフォーマンスを達成し、1.5から16.6%のRAUC-ALLゲインと4.9から20.6%のRAUC-500ゲインが同じ試験予算の下で達成された。
NCIPはさらに、すべてのデータセットモデルペアで最高の平均パフォーマンスを達成する。
関連論文リスト
- Typicalness-Aware Learning for Failure Detection [26.23185979968123]
ディープニューラルネットワーク(DNN)は、しばしば自信過剰な問題に悩まされる。
そこで本研究では,本問題に対処し,故障検出性能を向上させるために,S typicalness-Aware Learning (TAL) と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2024-11-04T11:09:47Z) - FAST: Boosting Uncertainty-based Test Prioritization Methods for Neural Networks via Feature Selection [29.20073572683383]
本稿では,FeAture SelecTionをガイドとして,既存の優先順位付け手法を高速化するFASTを提案する。
FASTは、特定の機能がモデルの出力信頼度に影響を与えるノイズをもたらす可能性があるという洞察に基づいている。
モデルの正しい予測に対する各特徴の重要性を定量化し、ノイズのある特徴から動的に情報を抽出する。
論文 参考訳(メタデータ) (2024-09-13T18:13:09Z) - CreINNs: Credal-Set Interval Neural Networks for Uncertainty Estimation in Classification Tasks [4.904199965391026]
本研究は,Credal-Set Interval Neural Networks (CreINNs) と呼ばれる新しい手法を提案する。
CreINNは、単一の確率値ではなく、各クラスに制限された上限と低い確率を予測するように設計されている。
標準的なマルチクラスおよびバイナリ分類タスクの実験は、提案したCreINNsが、不確実性推定の優れた品質または同等の品質を達成できることを実証している。
論文 参考訳(メタデータ) (2024-01-10T10:04:49Z) - Conservative Prediction via Data-Driven Confidence Minimization [70.93946578046003]
機械学習の安全性クリティカルな応用においては、モデルが保守的であることが望ましいことが多い。
本研究では,不確実性データセットに対する信頼性を最小化するデータ駆動信頼性最小化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-06-08T07:05:36Z) - Bridging Precision and Confidence: A Train-Time Loss for Calibrating
Object Detection [58.789823426981044]
本稿では,境界ボックスのクラス信頼度を予測精度に合わせることを目的とした,新たな補助損失定式化を提案する。
その結果,列車の走行時間損失はキャリブレーション基準を超過し,キャリブレーション誤差を低減させることがわかった。
論文 参考訳(メタデータ) (2023-03-25T08:56:21Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳(メタデータ) (2023-03-20T14:12:55Z) - Can pruning improve certified robustness of neural networks? [106.03070538582222]
ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。
実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。
さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
論文 参考訳(メタデータ) (2022-06-15T05:48:51Z) - A Simple Approach to Improve Single-Model Deep Uncertainty via
Distance-Awareness [33.09831377640498]
本研究では,1つの決定論的表現に基づく1つのネットワークの不確実性向上手法について検討する。
本稿では,現代のDNNにおける距離認識能力を向上させる簡易な手法として,スペクトル正規化ニューラルガウス過程(SNGP)を提案する。
ビジョンと言語理解のベンチマークスイートでは、SNGPは予測、キャリブレーション、ドメイン外検出において、他の単一モデルアプローチよりも優れている。
論文 参考訳(メタデータ) (2022-05-01T05:46:13Z) - Test-time Batch Statistics Calibration for Covariate Shift [66.7044675981449]
我々は,推論中に深層モデルを新しい環境に適応させることを提案する。
バッチ統計の校正に$alpha$-BNの一般的な定式化を提案する。
また、統合テスト時間適応フレームワークCoreを形成するための新しい損失関数も提示する。
論文 参考訳(メタデータ) (2021-10-06T08:45:03Z) - KNN-BERT: Fine-Tuning Pre-Trained Models with KNN Classifier [61.063988689601416]
事前学習されたモデルは、クロスエントロピー損失によって最適化された線形分類器を用いて、微調整された下流タスクに広く利用されている。
これらの問題は、同じクラスの類似点と、予測を行う際の矛盾点に焦点を当てた表現を学習することで改善することができる。
本稿では、事前訓練されたモデル微調整タスクにおけるKNearest Neighborsについて紹介する。
論文 参考訳(メタデータ) (2021-10-06T06:17:05Z) - Revisiting One-vs-All Classifiers for Predictive Uncertainty and
Out-of-Distribution Detection in Neural Networks [22.34227625637843]
識別型分類器における確率のパラメトリゼーションが不確実性推定に与える影響について検討する。
画像分類タスクのキャリブレーションを改善するために, 1-vs-all の定式化が可能であることを示す。
論文 参考訳(メタデータ) (2020-07-10T01:55:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。