論文の概要: Disentangling Confidence Score Distribution for Out-of-Domain Intent
Detection with Energy-Based Learning
- arxiv url: http://arxiv.org/abs/2210.08830v1
- Date: Mon, 17 Oct 2022 08:19:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-18 18:35:07.259136
- Title: Disentangling Confidence Score Distribution for Out-of-Domain Intent
Detection with Energy-Based Learning
- Title(参考訳): エネルギーベース学習によるドメイン外インテント検出における信頼度分布の分離
- Authors: Yanan Wu, Zhiyuan Zeng, Keqing He, Yutao Mou, Pei Wang, Yuanmeng Yan,
Weiran Xu
- Abstract要約: 我々は,OODサンプルのエネルギースコアがINDサンプルよりも高いOODを検出するための,シンプルだが強力なエネルギーベーススコア関数を提案する。
本手法の総合実験と解析は,INDおよびOODデータの信頼度分布のアンタングル化に有効であることを示す。
- 参考スコア(独自算出の注目度): 40.96874034407684
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Detecting Out-of-Domain (OOD) or unknown intents from user queries is
essential in a task-oriented dialog system. Traditional softmax-based
confidence scores are susceptible to the overconfidence issue. In this paper,
we propose a simple but strong energy-based score function to detect OOD where
the energy scores of OOD samples are higher than IND samples. Further, given a
small set of labeled OOD samples, we introduce an energy-based margin objective
for supervised OOD detection to explicitly distinguish OOD samples from INDs.
Comprehensive experiments and analysis prove our method helps disentangle
confidence score distributions of IND and OOD data.\footnote{Our code is
available at \url{https://github.com/pris-nlp/EMNLP2022-energy_for_OOD/}.}
- Abstract(参考訳): タスク指向のダイアログシステムでは、ユーザクエリからドメイン外(ood)や未知のインテントを検出することが不可欠です。
従来のソフトマックスベースの信頼度スコアは、自信過剰の問題に影響を受けやすい。
本稿では,OODサンプルのエネルギースコアがINDサンプルよりも高いOODを検出するための,シンプルだが強力なエネルギーベーススコア関数を提案する。
さらに、ラベル付きOODサンプルの小さなセットを考慮し、OODサンプルとINDを明確に区別するために、教師付きOOD検出のためのエネルギーベースマージン目標を導入する。
本手法の総合実験と解析は,INDおよびOODデータの信頼度分布のアンタングル化に有効であることを示す。
コードは \url{https://github.com/pris-nlp/emnlp2022-energy_for_ood/} で利用可能である。
}
関連論文リスト
- APP: Adaptive Prototypical Pseudo-Labeling for Few-shot OOD Detection [40.846633965439956]
本稿では、少数のラベル付きINDデータと大量のラベル付き混合データしか存在しない、数ショットのOOD設定に焦点を当てる。
数発のOOD検出のためのアダプティブ擬似ラベル法(APP)を提案する。
論文 参考訳(メタデータ) (2023-10-20T09:48:52Z) - Unsupervised Evaluation of Out-of-distribution Detection: A Data-centric
Perspective [55.45202687256175]
アウト・オブ・ディストリビューション(OOD)検出法は、個々のテストサンプルがイン・ディストリビューション(IND)なのかOODなのかという、試験対象の真実を持っていると仮定する。
本稿では,OOD検出における教師なし評価問題を初めて紹介する。
我々は,OOD検出性能の教師なし指標としてGscoreを計算する3つの方法を提案する。
論文 参考訳(メタデータ) (2023-02-16T13:34:35Z) - Rethinking Out-of-distribution (OOD) Detection: Masked Image Modeling is
All You Need [52.88953913542445]
簡単な再構築手法を用いることで,OOD検出の性能が大幅に向上する可能性が示唆された。
我々は、OOD検出フレームワーク(MOOD)のプリテキストタスクとして、マスケ画像モデリング(Masked Image Modeling)を採用する。
論文 参考訳(メタデータ) (2023-02-06T08:24:41Z) - Rainproof: An Umbrella To Shield Text Generators From
Out-Of-Distribution Data [41.62897997865578]
安全なシステム動作を保証するための重要な要素は、Out-Of-Distribution Detectionである。
ほとんどのメソッドはエンコーダが出力する隠れた機能に依存している。
本研究では,ブラックボックスフレームワークにおけるソフト確率の活用に焦点をあてる。
論文 参考訳(メタデータ) (2022-12-18T21:22:28Z) - On the Usefulness of Deep Ensemble Diversity for Out-of-Distribution
Detection [7.221206118679026]
ディープラーニングの安全性クリティカルな応用において、OOD(Out-of-Distribution)データを検出する能力が重要である。
この文献の既存の直観は、ディープ・アンサンブルの予測の多様性は分布シフトを示しているということである。
ImageNet-scale OOD 検出では,この直観が有効でないことを示す。
論文 参考訳(メタデータ) (2022-07-15T15:02:38Z) - Provably Robust Detection of Out-of-distribution Data (almost) for free [124.14121487542613]
ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。
本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。
このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
論文 参考訳(メタデータ) (2021-06-08T11:40:49Z) - Energy-based Out-of-distribution Detection [24.320646820385065]
エネルギースコアを用いたOOD検出のための統合フレームワークを提案する。
エネルギースコアは従来の手法よりも分布内と分布外を区別した方がよいことを示す。
エネルギーベースのトレーニングでは、我々の手法は一般的なベンチマークで最先端の手法よりも優れています。
論文 参考訳(メタデータ) (2020-10-08T04:42:17Z) - ATOM: Robustifying Out-of-distribution Detection Using Outlier Mining [51.19164318924997]
インフォメーション・アウトリエ・マイニングによるアドリアトレーニングは、OOD検出の堅牢性を向上させる。
ATOMは,古典的,敵対的なOOD評価タスクの幅広いファミリーの下で,最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2020-06-26T20:58:05Z) - Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。
ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
論文 参考訳(メタデータ) (2020-03-21T17:46:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。