論文の概要: AP-OOD: Attention Pooling for Out-of-Distribution Detection
- arxiv url: http://arxiv.org/abs/2602.06031v1
- Date: Thu, 05 Feb 2026 18:59:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-06 18:49:09.150051
- Title: AP-OOD: Attention Pooling for Out-of-Distribution Detection
- Title(参考訳): AP-OOD:アウト・オブ・ディストリビューション検出のためのアテンションプール
- Authors: Claus Hofmann, Christian Huber, Bernhard Lehner, Daniel Klotz, Sepp Hochreiter, Werner Zellinger,
- Abstract要約: アウト・オブ・ディストリビューション(OOD)検出は、マシンラーニングモデルの信頼性の高いデプロイに不可欠である。
本稿では,自然言語の新しいOOD検出手法であるAP-OODを提案する。
- 参考スコア(独自算出の注目度): 23.61044327325283
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Out-of-distribution (OOD) detection, which maps high-dimensional data into a scalar OOD score, is critical for the reliable deployment of machine learning models. A key challenge in recent research is how to effectively leverage and aggregate token embeddings from language models to obtain the OOD score. In this work, we propose AP-OOD, a novel OOD detection method for natural language that goes beyond simple average-based aggregation by exploiting token-level information. AP-OOD is a semi-supervised approach that flexibly interpolates between unsupervised and supervised settings, enabling the use of limited auxiliary outlier data. Empirically, AP-OOD sets a new state of the art in OOD detection for text: in the unsupervised setting, it reduces the FPR95 (false positive rate at 95% true positives) from 27.84% to 4.67% on XSUM summarization, and from 77.08% to 70.37% on WMT15 En-Fr translation.
- Abstract(参考訳): 高次元データをスカラーOODスコアにマッピングするアウト・オブ・ディストリビューション(OOD)検出は、マシンラーニングモデルの信頼性の高いデプロイに不可欠である。
最近の研究における重要な課題は、OODスコアを得るために、言語モデルからトークンの埋め込みを効果的に活用し、集約する方法である。
そこで本研究では,トークンレベルの情報を活用することで,単純な平均値に基づくアグリゲーションを超越した,自然言語のための新しいOOD検出手法であるAP-OODを提案する。
AP-OODは、教師なし設定と教師なし設定を柔軟に補間する半教師付きアプローチであり、限られた補助的外れ値データの使用を可能にする。
実証的に、AP-OODはテキストに対する新しい最先端のOOD検出を設定している: 教師なしの環境では、FPR95(95%の正の偽陽性率)をXSUM要約では27.84%から4.67%、WMT15 En-Fr翻訳では77.08%から70.37%に削減する。
関連論文リスト
- Retrieval-Augmented Prompt for OOD Detection [23.092622473716144]
Out-of-Distribution (OOD) 検出は、ハードウェア内のマシンラーニングモデルの信頼性の高いデプロイに不可欠である。
我々は、検索補助プロンプト(RAP)と呼ばれる新しいOOD検出法を提案する。
RAPは、外部知識を取得することで、事前訓練された視覚言語モデルのプロンプトを強化し、OOD検出のためのセマンティックインスペクションを強化する。
RAPは大規模OOD検出ベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-08-14T11:52:43Z) - OODD: Test-time Out-of-Distribution Detection with Dynamic Dictionary [10.19006278808466]
ディープラーニングモデルでは、アウト・オブ・ディストリビューション(OOD)検出が依然として難しい。
我々は,OOD辞書を微調整なしで動的に保守・更新する新しいテスト時間OOD検出手法OODDを提案する。
我々は,検出性能を維持しながら3倍の高速化を実現する,KNNベースのOOD検出フレームワークの最適化版を提案する。
論文 参考訳(メタデータ) (2025-03-13T15:41:56Z) - Iterative Deployment Exposure for Unsupervised Out-of-Distribution Detection [5.019613806273252]
Iterative Deployment Exposure (IDE)は、アウト・オブ・ディストリビューション(OOD)検出のための、新しくより現実的な設定である。
CSOは、マハラノビス距離と最寄りのアプローチを組み合わせた新しいU-OODスコアリング関数を使用している。
提案手法は, 医用画像の3つのモダリティに対して, 強いベースラインで大幅に改善されていることを示す。
論文 参考訳(メタデータ) (2024-06-04T13:57:34Z) - Model-free Test Time Adaptation for Out-Of-Distribution Detection [62.49795078366206]
我々はtextbfDistribution textbfDetection (abbr) のための非パラメトリックテスト時間 textbfAdaptation フレームワークを提案する。
Abbrは、オンラインテストサンプルを使用して、テスト中のモデル適応、データ分散の変更への適応性を向上させる。
複数のOOD検出ベンチマークにおける包括的実験により,abrの有効性を示す。
論文 参考訳(メタデータ) (2023-11-28T02:00:47Z) - Unsupervised Evaluation of Out-of-distribution Detection: A Data-centric
Perspective [55.45202687256175]
アウト・オブ・ディストリビューション(OOD)検出法は、個々のテストサンプルがイン・ディストリビューション(IND)なのかOODなのかという、試験対象の真実を持っていると仮定する。
本稿では,OOD検出における教師なし評価問題を初めて紹介する。
我々は,OOD検出性能の教師なし指標としてGscoreを計算する3つの方法を提案する。
論文 参考訳(メタデータ) (2023-02-16T13:34:35Z) - Rethinking Out-of-distribution (OOD) Detection: Masked Image Modeling is
All You Need [52.88953913542445]
簡単な再構築手法を用いることで,OOD検出の性能が大幅に向上する可能性が示唆された。
我々は、OOD検出フレームワーク(MOOD)のプリテキストタスクとして、マスケ画像モデリング(Masked Image Modeling)を採用する。
論文 参考訳(メタデータ) (2023-02-06T08:24:41Z) - ATOM: Robustifying Out-of-distribution Detection Using Outlier Mining [51.19164318924997]
インフォメーション・アウトリエ・マイニングによるアドリアトレーニングは、OOD検出の堅牢性を向上させる。
ATOMは,古典的,敵対的なOOD評価タスクの幅広いファミリーの下で,最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2020-06-26T20:58:05Z) - Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。
ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
論文 参考訳(メタデータ) (2020-03-21T17:46:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。