論文の概要: Rank-1 Weight-Corrected Trainable Weight Averaging for Out-of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2610.33909v1
- Date: Sat, 24 Oct 2026 20:45:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.481655
- Title: Rank-1 Weight-Corrected Trainable Weight Averaging for Out-of-Distribution Detection
- Title(参考訳): 分布外検出のためのランク1重補正トレーニングウェイト平均化
- Abstract要約: アウト・オブ・ディストリビューション(OOD)検出は、トレーニング分布外の入力を識別する。
RankFeat や RankWeight のようなランクに基づく分析は、OOD の過信は特徴空間と重み空間における支配的な低ランク成分と密接に関連していることを示唆している。
トレーニング可能なウェイト平均化 (TWA) をSingular Value Decomposition で抽出した主ランク1の重み成分を補正方向として拡張する。
- 参考スコア(独自算出の注目度): 0.42970700836450487
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Out-of-distribution (OOD) detection identifies inputs outside the training distribution. Rank-based analyses such as RankFeat and RankWeight suggest that OOD overconfidence is closely related to dominant low-rank components in feature and weight spaces. Since weight averaging operates directly in parameter space and improves model generalization, we consider it for OOD detection from a dominant-component perspective. Trainable Weight Averaging (TWA) assigns a single coefficient to each checkpoint, limiting independent control of dominant weight components. We extend TWA with leading rank-one weight components extracted by Singular Value Decomposition as correction directions, whose contributions are learned through the in-distribution classification objective. On ResNet50, our method improves over fine-tuning and standard TWA across the evaluated datasets with MSP and RankWeight, both with and without Outlier Exposure. Mahalanobis-based evaluation yields mixed results, indicating that the benefit depends on the OOD scoring protocol. Target-layer analyses with MSP and Energy favor correction near the classifier.
- Abstract(参考訳): アウト・オブ・ディストリビューション(OOD)検出は、トレーニング分布外の入力を識別する。
RankFeat や RankWeight のようなランクに基づく分析は、OOD の過信は特徴空間と重み空間における支配的な低ランク成分と密接に関連していることを示唆している。
重み平均化はパラメータ空間内で直接動作し、モデル一般化を改善するので、支配的成分の観点からのOOD検出について検討する。
トレーニング可能なウェイト平均化(TWA)は、各チェックポイントに1つの係数を割り当て、支配的なウェイトコンポーネントの独立した制御を制限する。
我々はTWAをSingular Value Decompositionによって抽出された主ランク1の重み成分を補正方向として拡張し、その寄与は分布内分類の目的を通して学習する。
ResNet50では、アウトリア露光の有無に関わらず、MPPとRangeWeightを用いて評価されたデータセットに対して、微調整および標準TWAよりも改善する。
マハラノビスに基づく評価は、OODスコアリングプロトコルに依存していることを示す混合結果をもたらす。
MSPとエネルギー優先補正による分類器近傍のターゲット層解析
関連論文リスト
- Variance-Optimal Off-Policy Evaluation with Conjunct Effect Modeling [5.821451087760636]
行動レベルの重み付けが過度の分散を引き起こす場合、文脈的盗賊政策のオフ政治評価は困難である。
OffCEM (Conjunct Effect Model) による事前推定では、より安定したクラスタレベルの重みに置き換える。
OffCEM と DR を補間する不偏推定器群が存在することを示す。
分散を最小化するために係数を選択する可変最適CEM推定器を提案する。
論文 参考訳(メタデータ) (2026-10-06T16:58:26Z) - Explaining RhythmFormer: A Systematic XAI Analysis of Periodic Sparse Attention for Remote Photoplethysmography [1.647210198730602]
Photoplethys変換器は、ベンチマークで心拍数エラーが低いが、その決定は不透明である。
既存のXAIは、定量的忠実度測定や生理的根拠による検証を伴わない定性的なヒートマップ検査によって支配されている。
我々は、RhythmFormerの2レベルの注意をトップ$k$選択で定量化するために、4つの方法(raw attention, rollout, flow, Beyond Intuition)を適用する。
論文 参考訳(メタデータ) (2026-06-11T19:10:06Z) - Neural Distribution Prior for LiDAR Out-of-Distribution Detection [6.46053482981698]
LiDARに基づく認識は、低照度と可視性条件に対する堅牢性のために、自律運転に不可欠である。
現在のモデルはクローズドセットの仮定の下で動作し、しばしばオープンワールドにおける予期せぬアウト・オブ・ディストリビューション(OOD)オブジェクトを認識するのに失敗する。
本稿では,ネットワーク予測の分布構造をモデル化し,学習前の分布とのアライメントに基づいてOODスコアを適応的に再重み付けするフレームワークであるNeural Distribution Prior (NDP)を提案する。
論文 参考訳(メタデータ) (2026-04-10T11:40:18Z) - EigenScore: OOD Detection using Covariance in Diffusion Models [23.642139552321794]
アウト・オブ・ディストリビューション(OOD)検出は、安全に敏感なドメインにおける機械学習システムの安全なデプロイに不可欠である。
拡散モデルにより誘導される後部共分散の固有値スペクトルを利用する新しいOOD検出法であるEigenScoreを提案する。
論文 参考訳(メタデータ) (2025-10-08T16:42:20Z) - Pairwise or Pointwise? Evaluating Feedback Protocols for Bias in LLM-Based Evaluation [57.380464382910375]
評価のためのフィードバックプロトコルの選択は,評価信頼性に大きく影響し,系統的なバイアスを生じさせることを示す。
ジェネレータモデルは、気を散らす機能を埋め込むことで好みをひっくり返すことができる。
我々は,データセットの特徴と評価目標に基づくフィードバックプロトコルの選択を推奨する。
論文 参考訳(メタデータ) (2025-04-20T19:05:59Z) - WARM: On the Benefits of Weight Averaged Reward Models [63.08179139233774]
Weight Averaged Reward Models (WARM) を提案する。
最良N法とRL法を用いた要約タスクの実験は、WARMがLLM予測の全体的な品質とアライメントを改善することを示す。
論文 参考訳(メタデータ) (2024-01-22T18:27:08Z) - Learning to Re-weight Examples with Optimal Transport for Imbalanced
Classification [74.62203971625173]
不均衡データは、ディープラーニングに基づく分類モデルに課題をもたらす。
不均衡なデータを扱うための最も広く使われているアプローチの1つは、再重み付けである。
本稿では,分布の観点からの最適輸送(OT)に基づく新しい再重み付け手法を提案する。
論文 参考訳(メタデータ) (2022-08-05T01:23:54Z) - Exploring Covariate and Concept Shift for Detection and Calibration of
Out-of-Distribution Data [77.27338842609153]
キャラクタリゼーションにより、OODデータの検出と信頼性校正には、それぞれのシフトに対する感度が重要であることが明らかになった。
分布内データのみを用いて両シフトでのOOD検出を改善するために,幾何学的に着想を得た手法を提案する。
我々は,OOD検出とキャリブレーションの両面で,異なるタイプのシフトの下でうまく機能する手法を最初に提案する。
論文 参考訳(メタデータ) (2021-10-28T15:42:55Z) - AutoAssign: Differentiable Label Assignment for Dense Object Detection [94.24431503373884]
Auto COCOは、物体検出のためのアンカーフリー検出器である。
外観認識は、完全に微分可能な重み付け機構によって実現される。
我々の最良のモデルでは52.1%のAPが達成され、既存の1段検出器よりも優れている。
論文 参考訳(メタデータ) (2020-07-07T14:32:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。