論文の概要: Ranked Activation Shift for Post-Hoc Out-of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2604.08572v1
- Date: Fri, 27 Mar 2026 10:31:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-19 19:09:11.441073
- Title: Ranked Activation Shift for Post-Hoc Out-of-Distribution Detection
- Title(参考訳): ポスト・ホック・アウト・オブ・ディストリビューション検出のためのランク付き活性化シフト
- Authors: Gianluca Guglielmo, Marc Masana,
- Abstract要約: 最先端のアウト・オブ・ディストリビューション検出方法は中間層活性化編集に依存する。
この不安定性はアクティベーション分布の違いによって引き起こされ、スケーリングベースの手法の障害モードが特定されることを示す。
- 参考スコア(独自算出の注目度): 2.2292903244289577
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: State-of-the-art post-hoc out-of-distribution detection methods rely on intermediate layer activation editing. However, they exhibit inconsistent performance across datasets and models. We show that this instability is driven by differences in the activation distributions, and identify a failure mode of scaling-based methods that arises when penultimate layer activations are not rectified. Motivated by this analysis, we propose \ours, a hyperparameter-free post-hoc method that replaces sorted activation magnitudes with a fixed in-distribution reference profile. Our simple plug-and-play method shows strong and consistent performance across datasets and architectures without assumptions on the penultimate layer activation function, and without requiring any hyperparameter tuning, while preserving in-distribution classification accuracy by construction. We further analyze what drives the improvement, showing that both inhibiting and exciting activation shifts independently contribute to better out-of-distribution discrimination.
- Abstract(参考訳): 最先端のアウト・オブ・ディストリビューション検出方法は中間層活性化編集に依存する。
しかし、データセットやモデル間での一貫性のないパフォーマンスを示す。
この不安定性はアクティベーション分布の違いによって引き起こされることを示し、不確定な層アクティベーションが修正されない場合に発生するスケーリングベースのメソッドの障害モードを特定する。
そこで本研究では,高パラメータフリーなポストホック法である \ours を提案する。
簡単なプラグアンドプレイ法では,階層アクティベーション関数を仮定することなく,かつハイパーパラメータチューニングを必要とせず,構成による分布内分類精度を保ちながら,データセットやアーキテクチャ間で強い一貫した性能を示す。
さらに、この改善の要因を分析し、抑制的かつ刺激的な活性化シフトが独立して、より良いアウト・オブ・ディストリビューション・差別に寄与することを示します。
関連論文リスト
- Activation-Space Uncertainty Quantification for Pretrained Networks [2.001149416674759]
本稿では,ベイズモデリングをウェイトからアクティベーションにシフトさせるポストホック法であるガウス過程活性化(GAPA)を紹介する。
GAPAは標準的な非線形性を、後部平均が元のアクティベーションと正確に一致するアクティベーションに置き換え、構築によるバックボーンのポイント予測を保存する。
現代のアーキテクチャにスケールするために、キャッシュされたトレーニングアクティベーションに対するスパース変分誘導点近似と、ローカルk-アレスト近傍条件の組み合わせを用いる。
論文 参考訳(メタデータ) (2026-02-16T17:17:08Z) - TSRE: Channel-Aware Typical Set Refinement for Out-of-Distribution Detection [22.24538775135359]
活性化に基づく手法は、OOD検出において基本的な役割を担っている。
本稿では,識別可能性と活動性に基づく典型的な集合精錬法を提案する。
また、典型的な集合推定における分布バイアスを軽減するために、歪度に基づく改善も導入する。
論文 参考訳(メタデータ) (2025-11-19T08:33:14Z) - TAG:Tangential Amplifying Guidance for Hallucination-Resistant Diffusion Sampling [53.61290359948953]
タンジェンシャル増幅誘導(TAG)は、下層の拡散モデルを変更することなく、軌道信号のみで動作する。
この誘導過程を1次テイラー展開を利用して定式化する。
TAGは、最小限の計算加算で拡散サンプリング忠実度を改善する、プラグアンドプレイのアーキテクチャに依存しないモジュールである。
論文 参考訳(メタデータ) (2025-10-06T06:53:29Z) - Probe-Free Low-Rank Activation Intervention [26.502232859901167]
隠れたアクティベーションを編集する推論時間の介入は、望ましい世代に向けてLMを操る有望な結果を示している。
本稿では,特定のアクティベーション層内のすべての注意点に対するプローブフリー干渉法FLORAINを提案する。
論文 参考訳(メタデータ) (2025-02-06T13:03:05Z) - Continual-MAE: Adaptive Distribution Masked Autoencoders for Continual Test-Time Adaptation [49.827306773992376]
連続的テスト時間適応(CTTA)は、ソース事前学習モデルから目標分布の連続的な変化に移行するために提案される。
提案手法は,CTTAタスクの分類とセグメンテーションの両方において,最先端の性能を実現する。
論文 参考訳(メタデータ) (2023-12-19T15:34:52Z) - Tracking the risk of a deployed model and detecting harmful distribution
shifts [105.27463615756733]
実際には、デプロイされたモデルのパフォーマンスが大幅に低下しないという、良心的なシフトを無視することは理にかなっている。
我々は,警告を発射する有効な方法は,(a)良性な警告を無視しながら有害なシフトを検知し,(b)誤報率を増大させることなく,モデル性能の連続的なモニタリングを可能にすることを論じる。
論文 参考訳(メタデータ) (2021-10-12T17:21:41Z) - Distribution Mismatch Correction for Improved Robustness in Deep Neural
Networks [86.42889611784855]
正規化法は ノイズや入力の腐敗に関して 脆弱性を増大させる
本稿では,各層の活性化分布に適応する非教師なし非パラメトリック分布補正法を提案する。
実験により,提案手法は画像劣化の激しい影響を効果的に低減することを示した。
論文 参考訳(メタデータ) (2021-10-05T11:36:25Z) - MCDAL: Maximum Classifier Discrepancy for Active Learning [74.73133545019877]
近年の最先端のアクティブラーニング手法は, 主にGAN(Generative Adversarial Networks)をサンプル取得に活用している。
本稿では,MCDAL(Maximum Discrepancy for Active Learning)と呼ぶ新しいアクティブラーニングフレームワークを提案する。
特に,両者の差分を最大化することにより,より厳密な決定境界を学習する2つの補助的分類層を利用する。
論文 参考訳(メタデータ) (2021-07-23T06:57:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。