論文の概要: Keep the Needle, Prune the Haystack: Defect-Preserving Token Pruning for Efficient Zero-Shot Anomaly Detection
- arxiv url: http://arxiv.org/abs/2608.03681v2
- Date: Thu, 06 Aug 2026 00:49:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 15:25:20.730819
- Title: Keep the Needle, Prune the Haystack: Defect-Preserving Token Pruning for Efficient Zero-Shot Anomaly Detection
- Title（参考訳）: 注意点と注意点:効率的なゼロショット異常検出のための欠陥保存トーケンプルーニング
- Abstract要約: トケンプルーニングは有望な解決策を提供するが、異常検出において非対称プルーニングリスクを導入する。
本稿では,トークン選択をハイリコール・異常対応ルーティングとして定式化する欠陥保存型トークンプルーニングフレームワークであるKeepADを提案する。
実験によると、KeepADはトークン保持率を20%以下に下げ、画像レベルとピクセルレベルのAUROCの平均劣化を2.7ドルの範囲に制限している。
- 参考スコア（独自算出の注目度）: 23.595452794635847
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Zero-shot visual anomaly detection has achieved remarkable progress, with recent vision-only approaches further improving performance while simplifying the inference pipeline. However, existing methods typically perform dense computation over all images and spatial tokens, despite the fact that normal samples dominate real-world scenarios and anomalies usually occupy only small regions. Token pruning offers a promising solution, but introduces an asymmetric pruning risk in anomaly detection: retaining normal tokens mainly incurs redundant computation, whereas removing anomalous tokens may eliminate the only evidence for detection and localization. This risk is particularly severe in early layers, where pruning provides the greatest computational benefit but anomaly semantics remain unreliable. We propose KeepAD, a defect-preserving token pruning framework that formulates token selection as high-recall, anomaly-aware routing. In shallow layers, KeepAD combines coverage-preserving selection over local $2\times2$ patch neighborhoods with deterministic anomaly rescue to reduce the risk of discarding subtle defects. In deeper layers, frozen normal and abnormal prototypes guide pruning under an image-adaptive token budget, aggressively removing low-risk normal tokens while preserving local anomaly evidence. Dense-to-sparse self-distillation further supervises early token routing without introducing additional inference overhead. Experiments on six industrial and seven medical zero-shot anomaly detection benchmarks show that KeepAD reduces the token retention ratio to below $20\%$, while limiting the average degradation in image-level and pixel-level AUROC to within $2.7$ percentage points. At the most aggressive operating point, KeepAD achieves a $7.9\times$ speedup over the strongest CLIP-based baseline.
- Abstract（参考訳）: ゼロショットの視覚異常検出は目覚ましい進歩を遂げ、最近のビジョンのみのアプローチは推論パイプラインを簡素化し、パフォーマンスをさらに改善している。
しかし、既存の手法では、通常のサンプルが現実のシナリオを支配し、異常は通常小さな領域のみを占めるにもかかわらず、すべての画像や空間トークンに対して密度の高い計算を行う。
トケンプルーニングは有望な解決策を提供するが、異常検出における非対称プルーニングリスクを導入している: 通常のトークンの保持は、主に冗長な計算を引き起こすが、異常トークンの除去は、検出とローカライゼーションの唯一の証拠を排除できる。
このリスクは、プルーニングが最大の計算上の利点を提供する初期の層では特に深刻であるが、異常なセマンティクスは信頼できないままである。
本稿では,トークン選択をハイリコール・異常対応ルーティングとして定式化する欠陥保存型トークンプルーニングフレームワークであるKeepADを提案する。
浅い層では、KeepADは、ローカルな2ドル(約2万2000円)のパッチエリアに対するカバレッジ保存の選択と、決定論的異常救助を組み合わせることで、微妙な欠陥を破棄するリスクを低減する。
より深い層では、凍結された正常および異常なプロトタイプは、画像適応型トークン予算の下でプルーニングを誘導し、局所的な異常な証拠を保持しながら、リスクの低い通常のトークンを積極的に除去する。
Dense-to-sparseの自己蒸留は、追加の推論オーバーヘッドを導入することなく、早期トークンルーティングをさらに監視する。
6つの産業用および7つの医療用ゼロショット異常検出ベンチマークの実験では、KeepADはトークン保持率を20セント以下に削減し、画像レベルとピクセルレベルのAUROCの平均劣化を2.7ドル未満に制限している。
最も攻撃的な運用ポイントでは、KeepADは最強のCLIPベースのベースラインよりも7.9\times$のスピードアップを達成した。
関連論文リスト
- Bayesian Best-Arm Identification with Abstention: A Polynomial-to-Exponential Phase Transition [51.253617466579335]
本研究では,学習者が端末の推薦を控えることができるベイジアン固定予算のベストアーム識別問題について検討する。
本研究は,非検出誤りの確率を解析し,吸収を伴わない準最適腕を推奨するリスクについて考察する。
論文 参考訳（メタデータ） (2026-06-28T05:07:27Z) - DCP-Prune: Ultra-Low Token Pruning with Distribution Consistency Preservation [55.38884985761757]
最近のビジョントークンプルーニング法は、中程度のトークン予算ではモデル性能を効果的に維持するが、超低トークン予算では不安定になる。
Anchor-Context Graph Recovery (ACGR) と Text-Aware Token Cluster Selection (TATCS) からなる2段階のプルーニングフレームワークを提案する。
超低トークン予算下で,本手法がより優れた,より安定した性能を実現することを示す実験を行った。
論文 参考訳（メタデータ） (2026-06-15T12:24:07Z) - Localization then Neutralization: Gradient-guided Token Suppression against Visual Prompt Injection Attack [78.02110947708535]
敵対的なイメージは、プロンプトインジェクションを通じて、マルチモーダルな大規模言語モデルに深刻なセキュリティ上の脅威をもたらす。
敵の攻撃を成功させるには、画像全体を一様に依存するのではなく、重要な画像トークンの小さなサブセットに依存していることを示す。
本稿では,これらのトークンを勾配解析により局所化し,マスキングにより中和するグラディエントトークンマスキング(GTM)を提案する。
論文 参考訳（メタデータ） (2026-05-24T17:51:34Z) - Mitigating the ID-OOD Tradeoff in Open-Set Test-Time Adaptation [52.620992698137236]
オープンセットテスト時間適応(OSTTA)は、新しい環境にモデルを適用するという課題に対処する。
本稿では,OSTTAにおけるエントロピーの限界をまず解析し,次に特徴ノルム等級を規制する角損失を導入する。
高いID分類性能を維持しながら強力なOOD検出を実現する。
論文 参考訳（メタデータ） (2026-04-02T04:00:57Z) - IMPACT: Influence Modeling for Open-Set Time Series Anomaly Detection [41.04237014380757]
Open-set Anomaly Detection (OSAD) は、トレーニングで見られる異常なクラスからラベル付きデータを限定的に利用して、テスト中に見られる異常と見えない異常の両方を特定するために設計された、新興パラダイムである。
現在のアプローチは、目に見えない異常を再現する擬似異常を生成するための単純な拡張法に依存している。
この作業では、o$underlinetextbfp$en-set 時系列に対して $textbfi$nfluence $underlinetextbfm$odelingを導入している。
論文 参考訳（メタデータ） (2026-03-31T02:49:46Z) - DRL-Guided Neural Batch Sampling for Semi-Supervised Pixel-Level Anomaly Detection [0.0]
産業用視覚検査における異常検出は, 欠陥試料の不足により困難である。
本稿では,ニューラルバッチサンプリング,オートエンコーダ,予測器を統合した半教師付き深層強化学習フレームワークを提案する。
論文 参考訳（メタデータ） (2025-11-25T12:53:53Z) - Towards Multiple Missing Values-resistant Unsupervised Graph Anomaly Detection [10.061847825452677]
M$2$V-UGADは不完全グラフ上の複数の欠落値耐性非教師付きGADフレームワークである。
M$2$V-UGADは、既存の教師なしGAD法を、様々な欠落率で一貫して上回っている。
論文 参考訳（メタデータ） (2025-11-13T03:30:43Z) - Industrial Anomaly Detection and Localization Using Weakly-Supervised Residual Transformers [44.344548601242444]
Weakly-supervised RESidual Transformer (WeakREST) という新しいフレームワークを導入し,高い異常検出精度を実現する。
画素単位の異常局所化タスクをブロック単位の分類問題に再構成する。
弱いラベルと残差に基づく表現との相互作用を処理できるResMixMatchアルゴリズムを開発した。
論文 参考訳（メタデータ） (2023-06-06T08:19:30Z) - Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。
我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。
製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
論文 参考訳（メタデータ） (2022-06-23T14:16:30Z) - SLA$^2$P: Self-supervised Anomaly Detection with Adversarial
Perturbation [77.71161225100927]
異常検出は、機械学習の基本的な問題であるが、難しい問題である。
本稿では,非教師付き異常検出のための新しい強力なフレームワークであるSLA$2$Pを提案する。
論文 参考訳（メタデータ） (2021-11-25T03:53:43Z) - Mean-Shifted Contrastive Loss for Anomaly Detection [34.97652735163338]
そこで本研究では,集中損失法とコントラスト損失法の両方の障害モードを克服できる新たな損失関数を提案する。
私たちの改善は、$textitMean-Shifted Contrastive Loss$に基づいて、新しい異常検出アプローチをもたらします。
提案手法は,ROC-AUC$9.5%を含む複数のベンチマークにおいて,最先端の異常検出性能を実現する。
論文 参考訳（メタデータ） (2021-06-07T17:58:03Z) - Patch-wise++ Perturbation for Adversarial Targeted Attacks [132.58673733817838]
トランスファビリティの高い対比例の作成を目的としたパッチワイズ反復法(PIM)を提案する。
具体的には、各イテレーションのステップサイズに増幅係数を導入し、$epsilon$-constraintをオーバーフローする1ピクセルの全体的な勾配が、その周辺領域に適切に割り当てられる。
現在の攻撃方法と比較して、防御モデルでは35.9%、通常訓練されたモデルでは32.7%、成功率を大幅に向上させた。
論文 参考訳（メタデータ） (2020-12-31T08:40:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。