論文の概要: PL-SCEA: Reconfiguring Pretrained Attention for Few-Shot Industrial Anomaly Detection
- arxiv url: http://arxiv.org/abs/2609.03655v1
- Date: Thu, 03 Sep 2026 10:54:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 18:28:39.023887
- Title: PL-SCEA: Reconfiguring Pretrained Attention for Few-Shot Industrial Anomaly Detection
- Title(参考訳): PL-SCEA:数ショット産業異常検出のための事前注意の再構成
- Abstract要約: Vision Foundation Models (VFM) は、数発の産業異常検出のための転送可能なパッチ表現を提供する。
本稿では,凍結したVFMの注意を異常検出のタスク関連成分として再構成できるという仮説を考察する。
我々はこのアイデアをPL-SCEA(Power-Law Self-Correlation Enhanced Attention)でインスタンス化する。
- 参考スコア(独自算出の注目度): 2.4104933690855153
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Vision Foundation Models (VFMs) provide transferable patch representations for few-shot industrial anomaly detection, but their attention computation is typically inherited from pretraining objectives centered on semantic aggregation. This creates a potential mismatch: token relations that support semantic recognition may not adequately expose the localized texture and structural deviations required for anomaly localization. We therefore investigate the hypothesis that the attention computation of a frozen VFM can be reconfigured as a task-relevant component of anomaly detection. We instantiate this idea with Power-Law Self-Correlation Enhanced Attention (PL-SCEA), which retains the semantic context of pretrained query-key attention while constructing token-adaptive self-correlations over contextualized value features. Positive-correlation filtering and power-law reweighting then emphasize relations that are salient relative to each token's relational background, without introducing additional trainable attention projections. The resulting features are modeled by a lightweight variational autoencoder that provides a fixed-size reconstruction-based representation of category-specific normality. The two stages serve complementary roles: attention reconfiguration shapes how local relational deviations are represented, while reconstruction-based modeling converts deviations from learned normality into anomaly scores. Across MVTec AD and VisA, the complete framework achieves competitive image-level detection and consistently strong pixel-level localization across the evaluated few-shot settings. Ablations further show that PL-SCEA improves localization with either the VAE or a memory bank under the tested setting. These results support the view that task-aligned attention reconfiguration can improve the anomaly-localization capability of frozen pretrained representations.
- Abstract(参考訳): ビジョンファウンデーションモデル(VFM)は、数発の産業異常検出のための転送可能なパッチ表現を提供するが、それらの注意計算は一般的にセマンティックアグリゲーションを中心とした事前学習目的から受け継がれている。
意味認識をサポートするトークン関係は、局所化されたテクスチャや、異常な局所化に必要な構造的ずれを適切に露呈しない可能性がある。
そこで我々は,凍結したVFMの注意計算を,異常検出のタスク関連成分として再構成できるという仮説を考察した。
我々は、このアイデアを、事前訓練されたクエリキーの注意の意味的コンテキストを保持しつつ、文脈化された値の特徴に対してトークン適応的な自己相関を構築しながら、パワーロー自己相関強化注意(PL-SCEA)でインスタンス化する。
正の相関フィルタリングとパワー・ローの重み付けは、トレーニング可能な注意投影を導入することなく、各トークンの相対的背景に対して健全な関係を強調する。
得られた特徴は、カテゴリー固有の正規性の固定サイズ再構成に基づく表現を提供する軽量な変分オートエンコーダによってモデル化される。
この2つの段階は相補的な役割を担っている: 注意再構成は局所的な関係的偏差の表現を形作るが、再構成に基づくモデリングは学習された正規性からの偏差を異常スコアに変換する。
MVTec AD と VisA 全体で、完全なフレームワークは、画像レベルの競合検出と、評価された少数ショット設定全体にわたって一貫して強力なピクセルレベルのローカライゼーションを実現する。
さらに、PL-SCEAは、テスト環境下でのVAEまたはメモリバンクとのローカライゼーションを改善することを示す。
これらの結果は、タスク整列型アテンション再構成が、凍結事前訓練された表現の異常な局所化能力を向上させることができるという見解を支持する。
関連論文リスト
- DCS: A Unified Conditional Sensitivity Framework for Cross-Modal Copyright Infringement Detection [0.0]
本研究は,著作権侵害の証拠を条件付き分散シフトとして扱う,統合されたポストホック検出フレームワークを開発する。
保護対象は、その目標がトレーニングプロセスに含まれるか、または取り除かれた場合、整列条件下でのモデルの振る舞いが測定可能に変更されるかどうか疑わしい。
このフレームワークは、リッジ規則化線形回帰、条件付き拡散モデル、自己回帰言語モデル、マルチモーダルモデルのためにインスタンス化されている。
論文 参考訳(メタデータ) (2026-07-24T07:00:44Z) - Context-weighted Discrete Flow Matching [13.385997589934645]
本稿では,ローカルコンテキスト情報を組み込んだCTMC(Continuous-time Markov chain)の簡単な修正を提案する。
文脈重み付きサンプリング器は,計算オーバーヘッドを無視して生成品質を向上させる。
スケールしたクロスエントロピー損失関数は,異なるトークンからトレーニング信号を再重み付けし,OpenWebText上で生成パープレキシティを最大63%低減する。
論文 参考訳(メタデータ) (2026-07-23T15:29:49Z) - Hierarchical Consistency Learning for Test-time Adaptation in Camouflage Perception [50.278200968044665]
カモフラージュされた物体検出(COD)は、物理的属性を通して背景から最小限の知覚差を示すターゲットをローカライズすることを目的としている。
既存のメソッドは、静的なTrain-then-freezeパラダイムによって制約されており、ドメインの剛性と依存性のアノテーションに悩まされている。
動的表現再構成のためのテスト時間適応を統合した階層的一貫性学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-25T09:57:46Z) - MoASE++: Mixture of Activation Sparsity Experts with Domain-Adaptive On-policy Distillation for Continual Test Time Adaptation [65.068801413044]
連続的なテスト時間適応は、非定常な未ラベルのターゲットストリームにソース予測モデルを適用する。
ドメインに依存しない構造をドメイン固有のテクスチャから切り離す。
論文 参考訳(メタデータ) (2026-05-18T01:52:12Z) - FACTOR: Counterfactual Training-Free Test-Time Adaptation for Open-Vocabulary Object Detection [63.91351553178842]
FACTORはオープン語彙オブジェクト検出のためのトレーニング不要なテスト時間適応である。
属性依存性の予測を選択的に抑制するために、属性の感度、意味的関連性、予測のバリエーションを定量化する。
PASCAL-C, COCO-C, FoggyCityscapes の実験では、FACTOR が従来の TTA 法より一貫して優れていたことが示されている。
論文 参考訳(メタデータ) (2026-05-05T02:31:18Z) - SMKC: Sketch Based Kernel Correlation Images for Variable Cardinality Time Series Anomaly Detection [0.0]
運用環境では、監視システムはセンサーチャーンを頻繁に経験する。
本稿では,異常検出器から動的入力構造を分離するフレームワークSMKCを提案する。
SMKC表現におけるランダムプロジェクションと近傍近傍の検出器は、完全に訓練されたベースラインと競合する。
論文 参考訳(メタデータ) (2026-01-28T21:15:11Z) - Noise & pattern: identity-anchored Tikhonov regularization for robust structural anomaly detection [58.535473924035365]
異常検出は自動産業検査において重要な役割を担い、他の均一な視覚パターンの微妙な欠陥や稀な欠陥を識別することを目的としている。
自己教師型オートエンコーダを用いて, 破損した入力の修復を学習する構造的異常検出に取り組む。
構造欠陥を模倣した画像に人工的破壊を注入する汚職モデルを導入する。
論文 参考訳(メタデータ) (2025-11-10T15:48:50Z) - Anomaly Detection via Autoencoder Composite Features and NCE [1.2891210250935148]
オートエンコーダ(AE)または生成モデルは、通常入力のデータ分布をモデル化するためにしばしば使用される。
ノイズコントラスト推定(NCE)を訓練したAEと確率モデルの両方が異常検出を行うための非結合型トレーニング手法を提案する。
論文 参考訳(メタデータ) (2025-02-04T01:29:22Z) - Bootstrap Fine-Grained Vision-Language Alignment for Unified Zero-Shot
Anomaly Localization [63.61093388441298]
対照的な言語-画像事前学習モデルは、ゼロショット視覚認識タスクで有望なパフォーマンスを示した。
本研究では,ゼロショット異常局所化のためのAnoCLIPを提案する。
論文 参考訳(メタデータ) (2023-08-30T10:35:36Z) - Calibrating Undisciplined Over-Smoothing in Transformer for Weakly Supervised Semantic Segmentation [51.14107156747967]
弱教師付きセマンティックセマンティックセマンティクス(WSSS)は、完全な教師付きアプローチよりもアノテーションが少ないため、かなりの注目を集めている。
本研究では,非学際的な過密化に対する深い注意を抑えるための適応的再活性化機構 (AReAM) を提案する。
AReAMは既存のWSSS手法と比較してセグメンテーション性能を大幅に改善し、ノイズを低減し、関連するセマンティック領域に焦点を絞る。
論文 参考訳(メタデータ) (2023-05-04T19:11:33Z) - Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。
我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。
製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
論文 参考訳(メタデータ) (2022-06-23T14:16:30Z) - Out-of-distribution Generalization via Partial Feature Decorrelation [72.96261704851683]
本稿では,特徴分解ネットワークと対象画像分類モデルとを協調的に最適化する,PFDL(Partial Feature Deorrelation Learning)アルゴリズムを提案する。
実世界のデータセットを用いた実験により,OOD画像分類データセットにおけるバックボーンモデルの精度が向上することを示した。
論文 参考訳(メタデータ) (2020-07-30T05:48:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。