論文の概要: Exploiting Local Flatness for Efficient Out-of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2606.29952v1
- Date: Mon, 29 Jun 2026 08:27:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.12877
- Title: Exploiting Local Flatness for Efficient Out-of-Distribution Detection
- Title(参考訳): 効率的なアウト・オブ・ディストリビューション検出のための局所的平坦度の検討
- Authors: Seonghwan Park, Hyunji Jung, Dongyeop Lee, Namhoon Lee,
- Abstract要約: アウト・オブ・ディストリビューション(OOD)データは、信頼できる機械学習デプロイメントに不可欠である。
我々は,軽量平坦度変調OOD検出器Foldを提案する。
Foldは従来の手法より優れ,平均AUROCは1.63%,FPR95は2.30%向上した。
- 参考スコア(独自算出の注目度): 6.307330944209518
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Detecting out-of-distribution (OOD) data is crucial for reliable machine learning deployment. Among detection strategies, post-hoc methods are particularly attractive due to their efficiency, as they operate directly on pre-trained networks without requiring retraining. Within this paradigm, one promising direction exploits loss-landscape curvature to estimate model uncertainty; however, such methods incur substantial computational cost and rely on implicit assumptions about how landscape flatness differs between in-distribution (ID) and OOD data. In this work, we provide the first systematic investigation of this curvature discrepancy and show that OOD inputs exhibit larger Hessian curvature than ID data, with the gap widening under stronger distributional shifts. Motivated by these observations, we propose Fold, a lightweight flatness-modulated OOD detector that leverages the feature Hessian and partial feature normalization to improve ID-OOD separability while avoiding costly parameter-space curvature approximations. To optimally adapt this normalization across diverse datasets, we further introduce AutoFold, a self-supervised tuning scheme that synthesizes pseudo-OOD samples via ID logit masking for automatic calibration without requiring external data. Experiments on OOD benchmarks show that Fold outperforms prior methods, improving the average AUROC by 1.63% and reducing FPR95 by 2.30%, while maintaining computational efficiency comparable to a standard forward pass. Supported by theoretical analysis and extensive ablations, Fold provides a principled and practical solution for robust real-world deployment.
- Abstract(参考訳): 信頼性の高い機械学習デプロイメントには、アウト・オブ・ディストリビューション(OOD)データの検出が不可欠だ。
検出戦略の中で、ポストホック法はその効率性から特に魅力的である。
このパラダイム内では、ある有望な方向が損失ランドスケープの曲率を利用してモデルの不確実性を推定するが、そのような手法は相当な計算コストを発生させ、ランドスケープの平坦性が分布内(ID)データとOODデータの間でどのように異なるかという暗黙の仮定に依存している。
本研究では,この曲率差を初めて体系的に研究し,OOD入力がIDデータよりも大きいヘッセン曲率を示すことを示す。
これらの観測から得られたFoldは,高コストなパラメータ空間曲率近似を回避しつつ,特徴 Hessian と部分的特徴正規化を利用して ID-OOD 分離性を向上させる軽量な平坦度変調 OOD 検出器である。
さらに,この正規化を多様なデータセット間で最適に適用するために,外部データを必要とせずにIDロジットマスキングにより擬似OODサンプルを自動校正するための自己教師付きチューニングスキームであるAutoFoldを導入する。
OODベンチマークの実験では、Foldは従来の手法よりも優れており、平均的なAUROCを1.63%改善し、FPR95を2.30%削減し、標準のフォワードパスに匹敵する計算効率を維持した。
Foldは理論分析と広範な改善によってサポートされており、実世界のロバストな展開のための原則的で実用的なソリューションを提供している。
関連論文リスト
- SCOPED: Score-Curvature Out-of-distribution Proximity Evaluator for Diffusion [5.008779702997125]
アウト・オブ・ディストリビューション(OOD)検出は、視覚、ロボット工学、強化学習などにおける機械学習システムの信頼性の高い展開に不可欠である。
SCOPED(Score-Curvature Out-of-distribution Proximity Evaluator for Diffusion)を紹介する。
SCOPEDは、多様なデータセットでトレーニングされた単一の拡散モデルから計算され、モデルのスコア関数のジャコビアントレースと2乗ノルムを単一のテスト統計量に結合する。
4つのビジョンベンチマークでは、SCOPEDは計算コストの低いにもかかわらず、競合または最先端の精度リコールスコアを達成している。
論文 参考訳(メタデータ) (2025-10-01T20:54:49Z) - Feed Two Birds with One Scone: Exploiting Function-Space Regularization for Both OOD Robustness and ID Fine-Tuning Performance [72.57668440744301]
シミュレーションOODサンプルを用いて,関数空間における微調整モデルと事前学習モデルの距離を制約する新しい正規化を提案する。
このアプローチは、ダウンストリームタスクIDの微調整性能と、さまざまなCLIPバックボーン間のOODロバスト性の両方を一貫して改善できる。
論文 参考訳(メタデータ) (2025-08-31T12:14:34Z) - Distributionally Robust Optimization with Adversarial Data Contamination [49.89480853499918]
凸リプシッツ損失関数を持つ一般化線形モデルに対するワッサーシュタイン-1 DRO 目標の最適化に焦点をあてる。
私たちの主な貢献は、データ汚染のトレーニングに対するロバストネスと分散シフトに対するロバストネスを統合した、新しいモデリングフレームワークです。
この研究は、データ汚染と分散シフトという2つの課題の下で学習するために、効率的な計算によって支援される最初の厳密な保証を確立する。
論文 参考訳(メタデータ) (2025-07-14T18:34:10Z) - Optimizing Latent Dimension Allocation in Hierarchical VAEs: Balancing Attenuation and Information Retention for OOD Detection [14.833454650943805]
階層的変分オートエンコーダ(HVAE)は、従来のVAEよりも優れた表現能力を提供する。
既存のアプローチはしばしば遅延容量を任意に割り当て、非効率な表現や後続の崩壊につながる。
本稿では,HVAEにおける潜在次元割り当てを最適化するための理論的基盤となるフレームワークを提案する。
固定遅延予算の下で最適な割り当て比$rast$の存在を証明し、この比率を調整することでOOD検出性能が一貫したことを示す。
論文 参考訳(メタデータ) (2025-06-11T18:16:19Z) - Efficient Test-time Adaptive Object Detection via Sensitivity-Guided Pruning [73.40364018029673]
連続的なテスト時間適応オブジェクト検出(CTTA-OD)は、源となる事前訓練された検出器を常に変化する環境にオンライン適応させることを目的としている。
私たちのモチベーションは、学習したすべての特徴が有益であるとは限らないという観察に起因しています。
FLOPの計算オーバヘッドを12%削減し,優れた適応性を実現する。
論文 参考訳(メタデータ) (2025-06-03T05:27:56Z) - Leveraging Perturbation Robustness to Enhance Out-of-Distribution Detection [15.184096796229115]
本稿では, インディストリビューション(IND)インプットよりも, 摂動下でのOODインプットの予測信頼度が高いという知見に基づいて, ポストホック法であるPRO(Perturbation-Rectified OOD Detection)を提案する。
CIFAR-10モデルでは、POPは、最先端の手法と比較して、FPR@95において10%以上の削減を実現し、近似OOD入力を効果的に検出する。
論文 参考訳(メタデータ) (2025-03-24T15:32:33Z) - Towards Calibrated Robust Fine-Tuning of Vision-Language Models [97.19901765814431]
本研究は、視覚言語モデルにおいて、OOD精度と信頼性校正の両方を同時に改善する頑健な微調整法を提案する。
OOD分類とOOD校正誤差は2つのIDデータからなる共有上限を持つことを示す。
この知見に基づいて,最小の特異値を持つ制約付きマルチモーダルコントラスト損失を用いて微調整を行う新しいフレームワークを設計する。
論文 参考訳(メタデータ) (2023-11-03T05:41:25Z) - Free Lunch for Generating Effective Outlier Supervision [46.37464572099351]
本稿では, ほぼ現実的な外乱監視を実現するための超効率的な手法を提案する。
提案したtextttBayesAug は,従来の方式に比べて偽陽性率を 12.50% 以上削減する。
論文 参考訳(メタデータ) (2023-01-17T01:46:45Z) - Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。
本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。
本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
論文 参考訳(メタデータ) (2022-01-11T23:01:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。