論文の概要: An Open-World Lottery Ticket for Out-of-Domain Intent Classification

• arxiv url: http://arxiv.org/abs/2210.07071v1
• Date: Thu, 13 Oct 2022 14:58:35 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-14 16:00:18.509915
• Title: An Open-World Lottery Ticket for Out-of-Domain Intent Classification
• Title（参考訳）: ドメイン外インテント分類のためのオープンワールド抽選券
• Authors: Yunhua Zhou, Peiju Liu, Yuxin Wang, Xipeng Qiu
• Abstract要約: サブネットワークが提供するキャリブレーションされた信頼は、ドメイン内と外部の意図をよりよく区別することができる。 3つの実世界のデータセットの実験は、我々のアプローチが競合する一連のベースラインと比較して一貫した改善を確立することを実証している。
• 参考スコア（独自算出の注目度）: 51.50374666602328
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Most existing methods of Out-of-Domain (OOD) intent classification, which rely on extensive auxiliary OOD corpora or specific training paradigms, are underdeveloped in the underlying principle that the models should have differentiated confidence in In- and Out-of-domain intent. In this work, we demonstrate that calibrated subnetworks can be uncovered by pruning the (poor-calibrated) overparameterized model. Calibrated confidence provided by the subnetwork can better distinguish In- and Out-of-domain. Furthermore, we theoretically bring new insights into why temperature scaling can differentiate In- and Out-of-Domain intent and empirically extend the Lottery Ticket Hypothesis to the open-world setting. Extensive experiments on three real-world datasets demonstrate our approach can establish consistent improvements compared with a suite of competitive baselines.
• Abstract（参考訳）: 既存のOOD(Out-of-Domain)インテント分類法は、広範囲な補助的なOODコーパスや特定のトレーニングパラダイムに依存しており、モデルがイン・オブ・ドメインインテントとアウト・オブ・ドメインインテントの信頼性を区別するべきという基本的な原則では未発達である。 本研究は, 過パラメータ化モデルを用いて, キャリブレーションしたサブネットを抽出できることを実証する。 サブネットワークが提供する信頼性の調整は、ドメイン内とドメイン外を区別するのに役立つ。 さらに、理論上は、なぜ温度スケーリングがドメイン内インテントとドメイン外インテントを区別できるのかという新たな知見をもたらし、宝くじチケット仮説をオープンワールド設定に実証的に拡張する。 3つの実世界のデータセットに対する大規模な実験は、我々のアプローチが競合する一連のベースラインと比較して一貫した改善を確立できることを示した。

関連論文リスト

• Reflexive Guidance: Improving OoDD in Vision-Language Models via Self-Guided Image-Adaptive Concept Generation [4.506099292980221]
  各種プロプライエタリおよびオープンソースLVLMのOoDD機能の評価と解析を行った。 本稿では,LVLMのOoDD機能向上を目的とした自己誘導型プロンプト手法であるemphReflexive Guidance(ReGuide)を提案する。 実験結果から,我々のReGuideは画像分類とOoDDタスクの両方において,現在のLVLMの性能を向上させることが示された。
  論文  参考訳（メタデータ） (2024-10-19T04:46:51Z)
• High-Performance Few-Shot Segmentation with Foundation Models: An Empirical Study [64.06777376676513]
  基礎モデルに基づく数ショットセグメンテーション(FSS)フレームワークを開発した。 具体的には、基礎モデルから暗黙的な知識を抽出し、粗い対応を構築するための簡単なアプローチを提案する。 2つの広く使われているデータセットの実験は、我々のアプローチの有効性を実証している。
  論文  参考訳（メタデータ） (2024-09-10T08:04:11Z)
• WeiPer: OOD Detection using Weight Perturbations of Class Projections [11.130659240045544]
  入力のよりリッチな表現を生成する最終完全連結層にクラスプロジェクションの摂動を導入する。 我々はOpenOODフレームワークの複数のベンチマークで最先端のOOD検出結果を得る。
  論文  参考訳（メタデータ） (2024-05-27T13:38:28Z)
• Towards Context-Aware Domain Generalization: Understanding the Benefits and Limits of Marginal Transfer Learning [1.5320861212113897]
  我々は、コンテキストの概念をデータポイントの集合の置換不変表現として定式化する。 経験的分析により、我々の基準は好ましくないシナリオと好ましくないシナリオの両方を識別するのに有効であることが示された。
  論文  参考訳（メタデータ） (2023-12-15T05:18:07Z)
• Towards Calibrated Robust Fine-Tuning of Vision-Language Models [97.19901765814431]
  本研究は、視覚言語モデルにおいて、OOD精度と信頼性校正の両方を同時に改善する頑健な微調整法を提案する。 OOD分類とOOD校正誤差は2つのIDデータからなる共有上限を持つことを示す。 この知見に基づいて,最小の特異値を持つ制約付きマルチモーダルコントラスト損失を用いて微調整を行う新しいフレームワークを設計する。
  論文  参考訳（メタデータ） (2023-11-03T05:41:25Z)
• Towards Evaluating Transfer-based Attacks Systematically, Practically, and Fairly [79.07074710460012]
  ディープニューラルネットワーク(DNN)の敵対的脆弱性に大きな注目を集めている。 ブラックボックスDNNモデルを騙すための転送ベース手法が増えている。 30以上のメソッドを実装した転送ベースアタックベンチマーク(TA-Bench)を確立する。
  論文  参考訳（メタデータ） (2023-11-02T15:35:58Z)
• Generalizability of Adversarial Robustness Under Distribution Shifts [57.767152566761304]
  本研究は, 実証的, 証明された敵対的堅牢性間の相互作用と, ドメインの一般化を両立させるための第一歩を踏み出した。 複数のドメインでロバストモデルをトレーニングし、その正確性とロバスト性を評価する。 本研究は, 現実の医療応用をカバーするために拡張され, 敵の増大は, クリーンデータ精度に最小限の影響を伴って, 強靭性の一般化を著しく促進する。
  論文  参考訳（メタデータ） (2022-09-29T18:25:48Z)
• WeShort: Out-of-distribution Detection With Weak Shortcut structure [0.0]
  我々は,OODデータに対するニューラルネットワークの過信を低減するために,シンプルで効果的なポストホック手法WeShortを提案する。 提案手法はOOD検出の異なるスコアと互換性があり,ネットワークの異なるアーキテクチャによく対応できる。
  論文  参考訳（メタデータ） (2022-06-23T07:59:10Z)
• Enhancing the Generalization for Intent Classification and Out-of-Domain Detection in SLU [70.44344060176952]
  インテント分類は、音声言語理解(SLU)における主要な課題である 近年の研究では、余分なデータやラベルを使用することで、OOD検出性能が向上することが示されている。 本稿では、IND意図分類とOOD検出の両方をサポートしながら、INDデータのみを用いてモデルを訓練することを提案する。
  論文  参考訳（メタデータ） (2021-06-28T08:27:38Z)
• Confidence Estimation via Auxiliary Models [47.08749569008467]
  モデル信頼のための新しいターゲット基準、すなわち真のクラス確率(TCP)を紹介します。 標準最大クラス確率 (MCP) よりも TCP が信頼度推定に優れた特性を提供することを示す。
  論文  参考訳（メタデータ） (2020-12-11T17:21:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。