論文の概要: Red Teaming Language Models for Contradictory Dialogues

• arxiv url: http://arxiv.org/abs/2405.10128v2
• Date: Fri, 17 May 2024 01:12:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-20 11:46:25.037001
• Title: Red Teaming Language Models for Contradictory Dialogues
• Title（参考訳）: 矛盾対話のための赤いチーム言語モデル
• Authors: Xiaofei Wen, Bangzheng Li, Tenghao Huang, Muhao Chen,
• Abstract要約: 現在利用可能な言語モデルのほとんどは、対話中に自己矛盾する傾向がある。 本研究では,会話中の矛盾文を検出し,修正することを目的とした,新たな矛盾文処理タスクについて検討する。
• 参考スコア（独自算出の注目度）: 30.522961490270532
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Most language models currently available are prone to self-contradiction during dialogues. To mitigate this issue, this study explores a novel contradictory dialogue processing task that aims to detect and modify contradictory statements in a conversation. This task is inspired by research on context faithfulness and dialogue comprehension, which have demonstrated that the detection and understanding of contradictions often necessitate detailed explanations. We develop a dataset comprising contradictory dialogues, in which one side of the conversation contradicts itself. Each dialogue is accompanied by an explanatory label that highlights the location and details of the contradiction. With this dataset, we present a Red Teaming framework for contradictory dialogue processing. The framework detects and attempts to explain the dialogue, then modifies the existing contradictory content using the explanation. Our experiments demonstrate that the framework improves the ability to detect contradictory dialogues and provides valid explanations. Additionally, it showcases distinct capabilities for modifying such dialogues. Our study highlights the importance of the logical inconsistency problem in conversational AI.
• Abstract（参考訳）: 現在利用可能な言語モデルのほとんどは、対話中に自己矛盾する傾向がある。 そこで本研究では,会話中の矛盾文を検出し,修正することを目的とした,新たな矛盾文処理タスクについて検討する。 この課題は文脈忠実性と対話理解の研究に触発され、矛盾の検出と理解がしばしば詳細な説明を必要とすることを示した。 我々は、会話の片側が矛盾する矛盾する対話を含むデータセットを開発する。 各対話には説明ラベルが添付され、矛盾点の位置と詳細が強調される。 このデータセットでは、矛盾する対話処理のためのRed Teamingフレームワークを提示する。 フレームワークは、対話を検出し、説明しようと試み、その後、説明を用いて既存の矛盾コンテンツを変更する。 本実験は, 矛盾する対話を検出する能力の向上と, 有効な説明を提供することを実証する。 さらに、このような対話を修正できる機能も紹介している。 本研究は,対話型AIにおける論理的不整合問題の重要性を強調した。

関連論文リスト

• Inconsistent dialogue responses and how to recover from them [45.933921383946576]
  チャットシステムにとって重要な問題のひとつは、自分自身の好み、意見、信念、事実に一貫性を維持することだ。 本研究では,チャットシステムの発話整合性を評価する手法について検討する。
  論文  参考訳（メタデータ） (2024-01-18T19:46:04Z)
• Multi-turn Dialogue Comprehension from a Topic-aware Perspective [70.37126956655985]
  本稿では,話題認識の観点から,マルチターン対話をモデル化することを提案する。 対話文のセグメント化アルゴリズムを用いて、対話文を教師なしの方法でトピック集中フラグメントに分割する。 また,トピックセグメントを処理要素として扱う新しいモデルとして,トピック認識デュアルアテンションマッチング(TADAM)ネットワークを提案する。
  論文  参考訳（メタデータ） (2023-09-18T11:03:55Z)
• STRUDEL: Structured Dialogue Summarization for Dialogue Comprehension [42.57581945778631]
  抽象的な対話要約は、自然言語処理における重要なスタンドアロンタスクとみなされてきた。 本稿では,新たな対話要約タスクであるSTRUctured DiaLoguE Summarizationを提案する。 変換器エンコーダ言語モデルの対話理解性能を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2022-12-24T04:39:54Z)
• Question-Interlocutor Scope Realized Graph Modeling over Key Utterances for Dialogue Reading Comprehension [61.55950233402972]
  本稿では,対話読解のためのキーワード抽出手法を提案する。 複数の連続した発話によって形成された単位に対して予測を行い、より多くの回答を含む発話を実現する。 発話のテキスト上に構築されたグラフとして,質問-対話者スコープ実現グラフ(QuISG)モデルを提案する。
  論文  参考訳（メタデータ） (2022-10-26T04:00:42Z)
• CDConv: A Benchmark for Contradiction Detection in Chinese Conversations [74.78715797366395]
  本稿では,中国会話におけるコントラクション検出のベンチマーク,すなわちCDConvを提案する。 12Kのマルチターン会話に3つの典型的な矛盾カテゴリ(文内コントラクション、ロールコンフュージョン、ヒストリーコントラクション)をアノテートする。
  論文  参考訳（メタデータ） (2022-10-16T11:37:09Z)
• Structural Modeling for Dialogue Disentanglement [43.352833140317486]
  マルチパーティ対話コンテキスト マルチパーティ対話コンテキストは、対話読解の課題に繋がる。 本研究は,対話構造の特徴を考慮に入れて,複数パーティ履歴をスレッドにアンタングルする新しいモデルを設計する。
  論文  参考訳（メタデータ） (2021-10-15T11:28:43Z)
• "How Robust r u?": Evaluating Task-Oriented Dialogue Systems on Spoken Conversations [87.95711406978157]
  本研究は、音声タスク指向会話における新しいベンチマークを示す。 マルチドメイン対話状態追跡と知識基底型対話モデルについて検討する。 我々のデータセットは,タスク指向対話システムの音声によるベンチマークを可能にする。
  論文  参考訳（メタデータ） (2021-09-28T04:51:04Z)
• Advances in Multi-turn Dialogue Comprehension: A Survey [51.215629336320305]
  対話モデリングの観点から,従来の手法を検討した。 対話理解タスクで広く使用されている対話モデリングの3つの典型的なパターンについて議論します。
  論文  参考訳（メタデータ） (2021-03-04T15:50:17Z)
• I like fish, especially dolphins: Addressing Contradictions in Dialogue Modeling [104.09033240889106]
  DialoguE Contradiction Detection Task(DECODE)と、人間とロボットの矛盾した対話の両方を含む新しい会話データセットを紹介します。 次に、事前学習したトランスフォーマーモデルを用いて、定型的非構造的アプローチと矛盾検出を行う構造的発話に基づくアプローチを比較する。
  論文  参考訳（メタデータ） (2020-12-24T18:47:49Z)
• Utterance-level Dialogue Understanding: An Empirical Study [43.35258958775454]
  本稿では,対話の異なる側面における文脈の役割を探求し,定量化する。 具体的には、与えられた発話の文脈を歪ませるために様々な摂動を用いる。 これにより、対話の異なる側面の基本的な文脈的制御要因に関する洞察が得られます。
  論文  参考訳（メタデータ） (2020-09-29T09:50:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。