論文の概要: Scaling Pretrained Representations Enables Label-Free Out-of-Distribution Detection Without Fine-Tuning
- arxiv url: http://arxiv.org/abs/2605.05638v1
- Date: Thu, 07 May 2026 03:45:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.507759
- Title: Scaling Pretrained Representations Enables Label-Free Out-of-Distribution Detection Without Fine-Tuning
- Title(参考訳): 微調整なしでラベルのないアウト・オブ・ディストリビューション検出を可能にする事前制約表現のスケーリング
- Authors: Brett Barkley, Preston Culbertson, David Fridovich-Keil,
- Abstract要約: 最新の事前学習モデルでは, 正確なラベル自由分布検出に十分な幾何学的構造をエンコードしている。
以上の結果から, ラベルフリーなOOD検出は, 凍結した後骨が露出する形状に強く依存していることが示唆された。
- 参考スコア(独自算出の注目度): 5.008779702997125
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Models trained with deep learning often fail to signal when inputs fall outside their training data manifold, leading to unreliable predictions under distribution shift. Prior work suggests that effective out-of-distribution (OOD) detection often requires class-conditional modeling or specialized models obtained through supervised fine-tuning. We revisit this assumption in modern pretrained models and show that their frozen representations already encode sufficient geometric structure for accurate label-free OOD detection. Across 59 backbone-task pairings spanning vision and language, we compare two complementary label-free detectors: a global Mahalanobis estimator fit on unlabeled latent representations, and ReSCOPED, a lightweight, diffusion-based typicality estimator operating on the same features at a local level. Despite their different detection mechanisms, representation scaling reveals a consistent regime-dependent pattern: both local and global detectors' absolute performance improves with better representation quality, and performance gaps between the two detectors disappear across both language and vision tasks as representations scale. These results suggest that label-free OOD detection depends strongly on the geometry exposed by frozen pretrained backbones, reducing the importance of detector choice as backbone scale increases and enabling efficient deployment directly on frozen models.
- Abstract(参考訳): ディープラーニングで訓練されたモデルは、入力がトレーニングデータ多様体の外に落ちると、しばしば信号が合わなくなる。
以前の研究は、効果的なアウト・オブ・ディストリビューション(OOD)検出は、しばしばクラス条件モデリングや教師付き微調整によって得られる専門モデルを必要とすることを示唆していた。
我々は、この仮定を現代の事前学習モデルで再検討し、その凍結表現が、正確なラベルなしOOD検出に十分な幾何学的構造をすでにエンコードしていることを示す。
視覚と言語にまたがる59個のバックボーンとタスクのペアリングにおいて,グローバルなマハラノビス推定器がラベルのない潜在表現に適合し,ReSCOPEDは局所的に同じ特徴に作用する軽量な拡散型定性推定器である。
局所検出器とグローバル検出器の絶対性能は、より優れた表現品質で向上し、2つの検出器間の性能ギャップは、表現スケールとして言語タスクと視覚タスクの両方にわたって消失する。
これらの結果から, ラベルフリーなOOD検出は, 凍結した後骨が露出する形状に強く依存し, 背骨のスケールが増大するにつれて検出選択の重要性が低下し, 凍結モデルに直接効率よく展開できることが示唆された。
関連論文リスト
- Learning to Explore: Policy-Guided Outlier Synthesis for Graph Out-of-Distribution Detection [51.93878677594561]
教師なしグラフレベルのOOD検出では、モデルは通常、IDデータのみを使用して訓練される。
本稿では,スタティックスを学習した探索戦略に置き換える政策誘導型アウトリア合成フレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-28T11:40:18Z) - Cross-modal Proxy Evolving for OOD Detection with Vision-Language Models [59.242742594156546]
CoEvoは、テキストプロキシとビジュアルプロキシの両方を双方向でサンプル条件で適応するテストタイムフレームワークである。
CoEvoは最先端のパフォーマンスを実現し、AUROCを1.33%改善し、ImageNet-1KではFPR95を45.98%削減した。
論文 参考訳(メタデータ) (2026-01-13T12:08:26Z) - AgentIAD: Tool-Augmented Single-Agent for Industrial Anomaly Detection [9.208080780536504]
AgentIADは、多段階の視覚検査を可能にするツール駆動のフレームワークである。
AgentIADは、MMADの新しい最先端の97.62%の分類精度を達成する。
論文 参考訳(メタデータ) (2025-12-15T18:57:04Z) - Graph Out-of-Distribution Detection via Test-Time Calibration with Dual Dynamic Dictionaries [15.43092254877282]
グラフアウト・オブ・ディストリビューション(OOD)検出の鍵となる課題は、トレーニング中に接地トルースOODサンプルが存在しないことである。
動的に動的に更新された辞書を用いてOODスコアを校正する,BaCaと呼ばれる新しいテスト時間グラフOOD検出法を提案する。
BaCaは、OOD検出における既存の最先端メソッドよりも大幅に優れています。
論文 参考訳(メタデータ) (2025-11-17T16:14:48Z) - Beyond Binary Out-of-Distribution Detection: Characterizing Distributional Shifts with Multi-Statistic Diffusion Trajectories [6.634696833862699]
DISC: Diffusion-based statistics characterization。
DISCは複数のノイズレベルにわたる統計的不一致をキャプチャする。
OOD検出のための最先端の検出器と一致または超え、重要な点として、OODタイプを分類する。
論文 参考訳(メタデータ) (2025-10-20T10:18:45Z) - SCOPED: Score-Curvature Out-of-distribution Proximity Evaluator for Diffusion [5.008779702997125]
アウト・オブ・ディストリビューション(OOD)検出は、視覚、ロボット工学、強化学習などにおける機械学習システムの信頼性の高い展開に不可欠である。
SCOPED(Score-Curvature Out-of-distribution Proximity Evaluator for Diffusion)を紹介する。
SCOPEDは、多様なデータセットでトレーニングされた単一の拡散モデルから計算され、モデルのスコア関数のジャコビアントレースと2乗ノルムを単一のテスト統計量に結合する。
4つのビジョンベンチマークでは、SCOPEDは計算コストの低いにもかかわらず、競合または最先端の精度リコールスコアを達成している。
論文 参考訳(メタデータ) (2025-10-01T20:54:49Z) - From Global to Local: Multi-scale Out-of-distribution Detection [129.37607313927458]
アウト・オブ・ディストリビューション(OOD)検出は、イン・ディストリビューション(ID)トレーニングプロセス中にラベルが見られない未知のデータを検出することを目的としている。
近年の表現学習の進歩により,距離に基づくOOD検出がもたらされる。
グローバルな視覚情報と局所的な情報の両方を活用する第1のフレームワークであるマルチスケールOOD検出(MODE)を提案する。
論文 参考訳(メタデータ) (2023-08-20T11:56:25Z) - Watermarking for Out-of-distribution Detection [76.20630986010114]
Out-of-Distribution (OOD) 検出は、よく訓練された深層モデルから抽出された表現に基づいてOODデータを識別することを目的としている。
本稿では,透かしという一般的な手法を提案する。
我々は,元データの特徴に重畳される統一パターンを学習し,ウォーターマーキング後にモデルの検出能力が大きく向上する。
論文 参考訳(メタデータ) (2022-10-27T06:12:32Z) - Tracking the risk of a deployed model and detecting harmful distribution
shifts [105.27463615756733]
実際には、デプロイされたモデルのパフォーマンスが大幅に低下しないという、良心的なシフトを無視することは理にかなっている。
我々は,警告を発射する有効な方法は,(a)良性な警告を無視しながら有害なシフトを検知し,(b)誤報率を増大させることなく,モデル性能の連続的なモニタリングを可能にすることを論じる。
論文 参考訳(メタデータ) (2021-10-12T17:21:41Z) - Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。
我々は,再建基準の代替として,異常スコアの代替尺度を提案した。
提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
論文 参考訳(メタデータ) (2020-03-24T08:26:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。