論文の概要: Generative Zero-Shot Prompt Learning for Cross-Domain Slot Filling with Inverse Prompting

• arxiv url: http://arxiv.org/abs/2307.02830v1
• Date: Thu, 6 Jul 2023 07:53:46 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-07 14:56:10.217661
• Title: Generative Zero-Shot Prompt Learning for Cross-Domain Slot Filling with Inverse Prompting
• Title（参考訳）: 逆プロンプトによるクロスドメインスロット充足のためのゼロショットプロンプト学習
• Authors: Xuefeng Li, Liwen Wang, Guanting Dong, Keqing He, Jinzheng Zhao, Hao Lei, Jiachi Liu, Weiran Xu
• Abstract要約: クロスドメインスロットフィリングは、ラベル付きドメインからラベルなしのターゲットドメインに知識を転送することを目的としている。 クロスドメインスロットフィリングのための生成ゼロショットプロンプト学習フレームワークを提案する。 実験と分析により,提案手法の有効性が示された。
• 参考スコア（独自算出の注目度）: 27.186526104248696
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Zero-shot cross-domain slot filling aims to transfer knowledge from the labeled source domain to the unlabeled target domain. Existing models either encode slot descriptions and examples or design handcrafted question templates using heuristic rules, suffering from poor generalization capability or robustness. In this paper, we propose a generative zero-shot prompt learning framework for cross-domain slot filling, both improving generalization and robustness than previous work. Besides, we introduce a novel inverse prompting strategy to distinguish different slot types to avoid the multiple prediction problem, and an efficient prompt-tuning strategy to boost higher performance by only training fewer prompt parameters. Experiments and analysis demonstrate the effectiveness of our proposed framework, especially huge improvements (+13.44% F1) on the unseen slots.
• Abstract（参考訳）: ゼロショットクロスドメインスロットフィリングは、ラベル付きソースドメインからラベルなしターゲットドメインへの知識の転送を目的としている。 既存のモデルはスロット記述や例をエンコードするか、ヒューリスティックなルールを使って手作りの質問テンプレートを設計する。 本稿では,クロスドメインスロット充填のための生成的ゼロショットプロンプト学習フレームワークを提案する。 さらに,複数の予測問題を回避するために,異なるスロットタイプを識別する新しい逆プロンプト戦略と,プロンプトパラメータの少ないトレーニングだけで高いパフォーマンスを向上させる効率的なプロンプトチューニング戦略を導入する。 実験と解析により提案手法の有効性が示され、特に未確認スロットにおける大幅な改善(+13.44% F1)が示された。

関連論文リスト

• Memory-Efficient Prompt Tuning for Incremental Histopathology Classification [69.46798702300042]
  本稿では,経済的なメモリコストのモデル一般化ポテンシャルを育成するための,メモリ効率の良いプロンプトチューニングフレームワークを提案する。 乳癌転移分類と上皮間質組織分類の2つの病理組織学的タスクにより,我々の枠組みを広く評価した。
  論文  参考訳（メタデータ） (2024-01-22T03:24:45Z)
• HCVP: Leveraging Hierarchical Contrastive Visual Prompt for Domain Generalization [69.33162366130887]
  ドメイン一般化(DG)は、不変の機能を学ぶことによって、目に見えないシナリオに優れた機械学習モデルを作成するための取り組みである。 モデルにドメインレベルとタスク固有の特性を補足する新しい手法を提案する。 このアプローチは、特定の特徴から不変な特徴をより効果的に分離し、一般化を促進することを目的としている。
  論文  参考訳（メタデータ） (2024-01-18T04:23:21Z)
• TACIT: A Target-Agnostic Feature Disentanglement Framework for Cross-Domain Text Classification [17.19214732926589]
  クロスドメインテキスト分類は、ラベルの豊富なソースドメインからラベルの少ないターゲットドメインにモデルを転送することを目的としている。 本稿では,ロバストな特徴とアンロバストな特徴を適応的に分離する対象領域特徴のアンタングル化フレームワークであるTACITを提案する。 我々のフレームワークは、ソースドメインデータのみを活用しながら、最先端のベースラインに匹敵する結果を得る。
  論文  参考訳（メタデータ） (2023-12-25T02:52:36Z)
• HierarchicalContrast: A Coarse-to-Fine Contrastive Learning Framework for Cross-Domain Zero-Shot Slot Filling [4.1940152307593515]
  ドメイン間のゼロショットスロットフィリングは、モデルを学ぶためにソースドメイン知識を活用する上で重要な役割を果たす。 既存のゼロショットスロット充填法では、ターゲット領域での一般化能力が制限されている。 ゼロショットスロットフィリングのための新しい階層型コントラスト学習フレームワーク(HiCL)を提案する。
  論文  参考訳（メタデータ） (2023-10-13T14:23:33Z)
• Activate and Reject: Towards Safe Domain Generalization under Category Shift [71.95548187205736]
  カテゴリーシフト(DGCS)下における領域一般化の実践的問題について検討する。 未知のクラスサンプルを同時に検出し、ターゲットドメイン内の既知のクラスサンプルを分類することを目的としている。 従来のDGと比較すると,1)ソースクラスのみを用いたトレーニングにおいて,未知の概念を学習する方法,2)ソーストレーニングされたモデルを未知の環境に適応する方法,の2つの新しい課題に直面している。
  論文  参考訳（メタデータ） (2023-10-07T07:53:12Z)
• Prompting Diffusion Representations for Cross-Domain Semantic Segmentation [101.04326113360342]
  拡散事前学習は、セマンティックセグメンテーションのための並外れた領域一般化結果を達成する。 本研究では,シーンプロンプトとプロンプトランダム化戦略を導入し,セグメンテーションヘッドを訓練する際に,ドメイン不変情報をさらに混乱させる。
  論文  参考訳（メタデータ） (2023-07-05T09:28:25Z)
• Randomized Adversarial Style Perturbations for Domain Generalization [49.888364462991234]
  本稿では,RASP(Randomized Adversarial Style Perturbation)と呼ばれる新しい領域一般化手法を提案する。 提案アルゴリズムは, ランダムに選択されたクラスに対して, 対角方向の特徴のスタイルを乱し, 予期せぬ対象領域で観測される予期せぬスタイルに誤解されないよう, モデルを学習させる。 提案アルゴリズムは,様々なベンチマークによる広範な実験により評価され,特に大規模ベンチマークにおいて,領域一般化性能が向上することを示す。
  論文  参考訳（メタデータ） (2023-04-04T17:07:06Z)
• Learning Domain Invariant Prompt for Vision-Language Models [31.581652862478965]
  本稿では,メタプロンプト(MetaPrompt)と呼ばれる未確認領域に一般化可能な,固有領域不変プロンプトを直接生成する新しいプロンプト学習パラダイムを提案する。 我々の手法は既存の手法より一貫して大幅に優れています。
  論文  参考訳（メタデータ） (2022-12-08T11:23:24Z)
• Bridge to Target Domain by Prototypical Contrastive Learning and Label Confusion: Re-explore Zero-Shot Learning for Slot Filling [18.19818129121059]
  クロスドメインスロットフィリングは、ターゲットドメインでデータ不足が発生した場合のデータ依存を軽減する。 ゼロショットスロットフィリングのための動的ラベル混乱戦略を用いた,プロトタイプ型コントラスト学習に基づく新しい手法を提案する。 本モデルでは,未確認スロットの大幅な改善に加えて,スロット充足タスクに新たな最先端技術を設定する。
  論文  参考訳（メタデータ） (2021-10-07T15:50:56Z)
• Coach: A Coarse-to-Fine Approach for Cross-domain Slot Filling [65.09621991654745]
  クロスドメインスロットフィリングはタスク指向ダイアログシステムにおいて重要なタスクである。 クロスドメインスロットフィリングのための粗粒度アプローチ(Coach)を提案する。 実験結果から,本モデルはスロット充填における最先端手法よりも優れていた。
  論文  参考訳（メタデータ） (2020-04-24T13:07:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。