論文の概要: Not All Layers Are Equal: Dynamic Layer Routing for Reliable CLIP OOD Detection
- arxiv url: http://arxiv.org/abs/2609.20299v1
- Date: Thu, 30 Jul 2026 02:16:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.668898
- Title: Not All Layers Are Equal: Dynamic Layer Routing for Reliable CLIP OOD Detection
- Title(参考訳): すべての層が等しくない:信頼性の高いCLIP OOD検出のための動的層ルーティング
- Abstract要約: 我々は、OOD検出を改善するために、Voyagerと呼ばれる学習可能なルーティング手法を開発した。
ImageNet-1Kでは、Voyagerは18.86のFPR@95を平均で達成し、8.8ポイントの最も強力な、同等のプロンプトラーニング手法より優れている。
Voyagerは1GB未満のメモリを使用して約2分を要し、現在のプロンプト学習アプローチよりも約20倍効率がよい。
- 参考スコア(独自算出の注目度): 7.040438774123036
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Information aggregation across model layers are revealed to improve OOD detection. In contrast to crafting a method for layer-wise information aggregation in recent work, we investigate if layer selection is a learnable problem. In other words, we transpose the question from how to fuse layers to one asking which layers to trust for an input. Using a generalizable, weak, out of distribution context crafting approach for supervision, shown to be more effective than state of the art methods' mechanisms, we formulate learning a lightweight router to select a sparse, final-layer-anchored expert over CLIP's layer depth for OOD detection. Across three diverse benchmarks we demonstrate our learnable routing method dubbed Voyager improves OOD detection. On ImageNet-1K, Voyager achieves an average FPR@95 of 18.86, outperforming the strongest, comparable, prompt-learning method by 8.8 points. These gains persist across multiple supervision sources, including those used by existing state-of-the-art prompt-learning methods, demonstrating that, whilst our weak OOD supervision context is highly effective, the key advantage is realized from the learnable router component rather than the supervision source. Significantly, Voyager is highly practical; router learning takes approximately two minutes using less than 1 GB of memory, making it approximately 20x more efficient than current prompt-learning approaches. Anonymized Code: https://anonymous.4open.science/r/Voyager/
- Abstract(参考訳): モデル層にまたがる情報収集はOOD検出を改善する。
近年の作業における階層情報集約手法の開発とは対照的に,レイヤ選択が学習可能な問題であるかどうかを検討する。
言い換えれば、レイヤをフューズする方法から、どのレイヤが入力を信頼するかを問うものへと、質問を変換する。
OOD検出のためのCLIP層深度よりも、疎密で最終層アンカレートの専門家を選択するために軽量ルータを学習する。
3つの多様なベンチマークで、Voyagerと呼ばれる学習可能なルーティング手法がOOD検出を改善していることを示す。
ImageNet-1Kでは、Voyagerは18.86のFPR@95を平均で達成し、8.8ポイントの最も強力な、同等のプロンプトラーニング手法より優れている。
これらの向上は、既存の最先端のプロンプトラーニング手法で使用されているものなど、複数の監督源にまたがって持続し、我々の弱いOOD監視コンテキストが極めて効果的である一方で、重要な利点は、監督源ではなく学習可能なルータコンポーネントから実現されていることを実証している。
ボイジャーは非常に実用的であり、ルータ学習は1GB未満のメモリで約2分かかり、現在のプロンプト学習のアプローチよりも約20倍効率が良い。
匿名コード:https://anonymous.4open.science/r/Voyager/
関連論文リスト
- Prototype Fusion: A Training-Free Multi-Layer Approach to OOD Detection [0.8394724589095839]
中間層がOOD検出に等しくリッチで差別的な情報を符号化していることを示す。
複数の層にまたがる内部表現を利用するモデルに依存しない手法を提案する。
本手法は,画像分類における頑健でアーキテクチャに依存しない性能と強力な一般化を実現する。
論文 参考訳(メタデータ) (2026-03-24T19:32:13Z) - Unsupervised Layer-wise Score Aggregation for Textual OOD Detection [35.47177259803885]
我々はOOD検出性能がタスクや層出力によって大きく異なることを観察した。
本稿では,データ駆動型教師なし手法を提案する。
クラス数の多い分類タスクを含めることで、古典的なOODベンチマークを拡張します。
論文 参考訳(メタデータ) (2023-02-20T09:26:11Z) - Weighted Ensemble Self-Supervised Learning [67.24482854208783]
組み立ては、モデルパフォーマンスを高めるための強力なテクニックであることが証明されている。
我々は,データ依存型重み付きクロスエントロピー損失を許容するフレームワークを開発した。
提案手法は、ImageNet-1K上での複数の評価指標において、両者に優れる。
論文 参考訳(メタデータ) (2022-11-18T02:00:17Z) - Layer Adaptive Deep Neural Networks for Out-of-distribution Detection [14.385491722476036]
ディープニューラルネットワーク(DNN)のための新しい層適応型OOD検出フレームワーク(LA-OOD)を提案する。
中間層で同時に複数のワンクラスSVM OOD検出器を訓練し、DNNの様々な深さで符号化された全スペクトル特性を利用する。
LA-OODはさまざまな複雑さを持つOODに対して堅牢であり、いくつかの実世界のデータセットに対して大きなマージンで最先端の競合より優れている。
論文 参考訳(メタデータ) (2022-03-01T02:47:33Z) - Activation to Saliency: Forming High-Quality Labels for Unsupervised
Salient Object Detection [54.92703325989853]
本稿では,高品質なサリエンシキューを効果的に生成する2段階アクティベーション・ツー・サリエンシ(A2S)フレームワークを提案する。
トレーニングプロセス全体において、私たちのフレームワークにヒューマンアノテーションは関与していません。
本フレームワークは,既存のUSOD法と比較して高い性能を示した。
論文 参考訳(メタデータ) (2021-12-07T11:54:06Z) - Triggering Failures: Out-Of-Distribution detection by learning from
local adversarial attacks in Semantic Segmentation [76.2621758731288]
セグメンテーションにおけるアウト・オブ・ディストリビューション(OOD)オブジェクトの検出に取り組む。
私たちの主な貢献は、ObsNetと呼ばれる新しいOOD検出アーキテクチャであり、ローカル・アタック(LAA)に基づく専用トレーニングスキームと関連付けられています。
3つの異なるデータセットの文献の最近の10つの手法と比較して,速度と精度の両面で最高の性能が得られることを示す。
論文 参考訳(メタデータ) (2021-08-03T17:09:56Z) - Distilling Image Classifiers in Object Detectors [81.63849985128527]
本研究では, 物体検出の事例について検討し, 標準検出器-検出器蒸留法に従わず, 分類器-検出器間知識伝達フレームワークを導入する。
特に,検知器の認識精度とローカライゼーション性能を両立させるため,分類教師を利用する手法を提案する。
論文 参考訳(メタデータ) (2021-06-09T16:50:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。