論文の概要: PromptAttack: Probing Dialogue State Trackers with Adversarial Prompts

• arxiv url: http://arxiv.org/abs/2306.04535v1
• Date: Wed, 7 Jun 2023 15:41:40 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-08 13:31:32.958980
• Title: PromptAttack: Probing Dialogue State Trackers with Adversarial Prompts
• Title（参考訳）: PromptAttack: 対向的プロンプトによる対話状態トラッカーの探索
• Authors: Xiangjue Dong, Yun He, Ziwei Zhu, James Caverlee
• Abstract要約: 現代の会話システムの主要なコンポーネントは、対話状態追跡器(DST)である。 そこで本稿では,DSTモデルを探索する効果的な逆例を自動生成する,プロンプトベースの学習手法を提案する。 生成した相手のサンプルが、相手のトレーニングを通じてDSTをどの程度強化できるかを示す。
• 参考スコア（独自算出の注目度）: 25.467840115593784
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: A key component of modern conversational systems is the Dialogue State Tracker (or DST), which models a user's goals and needs. Toward building more robust and reliable DSTs, we introduce a prompt-based learning approach to automatically generate effective adversarial examples to probe DST models. Two key characteristics of this approach are: (i) it only needs the output of the DST with no need for model parameters, and (ii) it can learn to generate natural language utterances that can target any DST. Through experiments over state-of-the-art DSTs, the proposed framework leads to the greatest reduction in accuracy and the best attack success rate while maintaining good fluency and a low perturbation ratio. We also show how much the generated adversarial examples can bolster a DST through adversarial training. These results indicate the strength of prompt-based attacks on DSTs and leave open avenues for continued refinement.
• Abstract（参考訳）: 現代の会話システムの主要なコンポーネントは、ユーザの目標とニーズをモデル化する対話状態追跡装置(DST)である。 そこで我々は,より堅牢で信頼性の高いDSTを構築するために,DSTモデルを探索するための効果的な逆例を自動的に生成する,プロンプトベースの学習手法を提案する。 このアプローチの2つの重要な特徴は i)モデルパラメータを必要とせずにDSTの出力しか必要とせず、 (ii)任意のDSTをターゲットにした自然言語発話を学習することができる。 現状のDSTに関する実験を通じて,提案手法は精度を最大に低下させ,攻撃成功率を最大化し,高い流速と低摂動率を維持した。 また, 生成した相手のサンプルが, 相手のトレーニングを通じて, DSTをどの程度強化できるかを示す。 これらの結果から,DSTに対する迅速な攻撃の強さが示唆され,改良が継続される。

関連論文リスト

• Chain of Thought Explanation for Dialogue State Tracking [52.015771676340016]
  対話状態追跡(DST)は、会話中のユーザクエリと目標を記録することを目的としている。 DSTタスクに対してChain-of-Thought-Explanation(CoTE)というモデルを提案する。 CoTEはスロット値を決定した後、ステップバイステップで詳細な説明を作成するように設計されている。
  論文  参考訳（メタデータ） (2024-03-07T16:59:55Z)
• Injecting linguistic knowledge into BERT for Dialogue State Tracking [60.42231674887294]
  本稿では,教師なしの枠組みを用いて言語知識を抽出する手法を提案する。 次に、この知識を用いて、対話状態追跡(DST)タスクにおけるBERTの性能と解釈可能性を高める。 このフレームワークを様々なDSTタスクでベンチマークし、精度の顕著な改善を観察する。
  論文  参考訳（メタデータ） (2023-11-27T08:38:42Z)
• CSS: Combining Self-training and Self-supervised Learning for Few-shot Dialogue State Tracking [36.18207750352937]
  DST(Few-shot dialogue state tracking)は、ラベル付きデータでDSTモデルを訓練する現実的な問題である。 自己学習と自己教師型学習を組み合わせたDSTフレームワークCSSを提案する。 また,MultiWOZデータセットを用いた実験結果から,提案したCSSはいくつかのシナリオで競合性能を達成できた。
  論文  参考訳（メタデータ） (2022-10-11T04:55:16Z)
• In-Context Learning for Few-Shot Dialogue State Tracking [55.91832381893181]
  In-context (IC) Learning framework for few-shot dialogue state tracking (DST)を提案する。 大規模な事前訓練言語モデル(LM)は、テストインスタンスといくつかの注釈付き例を入力として取り、パラメータの更新なしに直接対話状態をデコードする。 これにより、LMは、新しいドメインやシナリオに適応する際の、以前の数ショットのDST作業と比べて、より柔軟でスケーラブルになります。
  論文  参考訳（メタデータ） (2022-03-16T11:58:24Z)
• Robust Dialogue State Tracking with Weak Supervision and Sparse Data [2.580163308334609]
  対話状態追跡(DST)を新しいデータに一般化することは、トレーニング中の豊富なきめ細かい監督に依存しているため困難である。 サンプルの間隔、分布シフト、新しい概念やトピックの発生は、しばしば推論中に深刻なパフォーマンス劣化を引き起こす。 そこで本研究では,詳細な手動スパンラベルを必要とせず,抽出DSTモデルを構築するためのトレーニング戦略を提案する。
  論文  参考訳（メタデータ） (2022-02-07T16:58:12Z)
• Adversarial Attacks and Defense for Non-Parametric Two-Sample Tests [73.32304304788838]
  本稿では,非パラメトリックTSTの障害モードを逆攻撃により系統的に明らかにする。 TST非依存的な攻撃を可能にするために,異なる種類のテスト基準を協調的に最小化するアンサンブル攻撃フレームワークを提案する。 そこで本研究では,TSTの強化のために,逆対を反復的に生成し,深層カーネルを訓練する最大最小最適化を提案する。
  論文  参考訳（メタデータ） (2022-02-07T11:18:04Z)
• Prompt Learning for Few-Shot Dialogue State Tracking [75.50701890035154]
  本稿では,限られたラベル付きデータを用いて,対話状態追跡(DST)モデルを効率的に学習する方法に焦点を当てる。 本稿では,2つの主要なコンポーネントである値ベースプロンプトと逆プロンプト機構からなる,数ショットDSTのためのプロンプト学習フレームワークを設計する。 実験により、我々のモデルは未確認のスロットを生成し、既存の最先端の数ショット法より優れていることが示された。
  論文  参考訳（メタデータ） (2022-01-15T07:37:33Z)
• Improving Longer-range Dialogue State Tracking [22.606650177804966]
  対話状態追跡(DST)はタスク指向対話システムにおいて重要な要素である。 本稿では,より長い対話処理を特に重視したDSTの全体的な性能向上を目指す。
  論文  参考訳（メタデータ） (2021-02-27T02:44:28Z)
• Improving Limited Labeled Dialogue State Tracking with Self-Supervision [91.68515201803986]
  既存の対話状態追跡(DST)モデルには多くのラベル付きデータが必要である。 本稿では,潜在的一貫性の維持と対話行動のモデル化という,自己指導型の2つの目的について検討する。 提案する自己教師型信号は,1%のラベル付きデータのみを使用する場合,関節ゴール精度を8.95%向上させることができる。
  論文  参考訳（メタデータ） (2020-10-26T21:57:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。