論文の概要: Inductive-Deductive Strategy Reuse for Multi-Turn Instructional Dialogues

• arxiv url: http://arxiv.org/abs/2404.11095v1
• Date: Wed, 17 Apr 2024 06:26:32 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-18 15:04:52.114334
• Title: Inductive-Deductive Strategy Reuse for Multi-Turn Instructional Dialogues
• Title（参考訳）: インダクティブ・デダクティブ・ストラテジー・リユース
• Authors: Jiao Ou, Jiayu Wu, Che Liu, Fuzheng Zhang, Di Zhang, Kun Gai,
• Abstract要約: 既存の手法は、実際の命令対話を学習目標とし、ユーザシミュレータを微調整して、命令をポーズさせる。 本稿では,命令戦略の再利用による複雑な対話フローの明示的モデリングを提案する。 実験結果から,本手法は対話履歴に対して,多種多様で深い,洞察に富んだ指示を生成できることが示唆された。
• 参考スコア（独自算出の注目度）: 15.959842501166511
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Aligning large language models (LLMs) with human expectations requires high-quality instructional dialogues, which can be achieved by raising diverse, in-depth, and insightful instructions that deepen interactions. Existing methods target instructions from real instruction dialogues as a learning goal and fine-tune a user simulator for posing instructions. However, the user simulator struggles to implicitly model complex dialogue flows and pose high-quality instructions. In this paper, we take inspiration from the cognitive abilities inherent in human learning and propose the explicit modeling of complex dialogue flows through instructional strategy reuse. Specifically, we first induce high-level strategies from various real instruction dialogues. These strategies are applied to new dialogue scenarios deductively, where the instructional strategies facilitate high-quality instructions. Experimental results show that our method can generate diverse, in-depth, and insightful instructions for a given dialogue history. The constructed multi-turn instructional dialogues can outperform competitive baselines on the downstream chat model.
• Abstract（参考訳）: 人間の期待に合わせた大きな言語モデル(LLM)の調整には高品質な命令対話が必要である。 既存の手法は、実際の命令対話を学習目標とし、ユーザシミュレータを微調整して、命令をポーズさせる。 しかし、ユーザシミュレータは、複雑な対話フローを暗黙的にモデル化し、高品質な指示を出すのに苦労する。 本稿では,人間の学習に固有の認知能力からインスピレーションを得て,教育戦略の再利用による複雑な対話フローの明示的なモデリングを提案する。 具体的には,まず,様々な実命令対話からハイレベル戦略を導出する。 これらの戦略は、命令戦略が高品質な指示を促進する新しい対話シナリオに適用される。 実験結果から,本手法は対話履歴に対して多種多様な,深い,洞察に富んだ指示を生成できることが示唆された。 構築されたマルチターン・インストラクショナル・ダイアログは、下流のチャットモデルで競合するベースラインより優れている。

関連論文リスト

• DuetSim: Building User Simulator with Dual Large Language Models for Task-Oriented Dialogues [7.765092134290888]
  本稿では,大規模言語モデルを活用することで,タスク指向対話の複雑な要求に対処する新しいフレームワークであるDuetSimを紹介する。 DuetSim は2つの LLM をタンデムで採用することで従来の手法とは異なっている。 提案手法の有効性を,MultiWOZデータセットを用いた広範囲な実験により検証し,応答品質と正しさの向上を強調した。
  論文  参考訳（メタデータ） (2024-05-16T06:24:31Z)
• Few-shot Dialogue Strategy Learning for Motivational Interviewing via Inductive Reasoning [21.078032718892498]
  本稿では,ユーザに対して肯定的なライフスタイル変化を取り入れるための対話システム構築の課題について考察する。 専門家によるデモンストレーションから,自然言語帰納規則の形で会話戦略を学習し,適用可能なフレームワークであるDIITを提案する。
  論文  参考訳（メタデータ） (2024-03-23T06:03:37Z)
• CESAR: Automatic Induction of Compositional Instructions for Multi-turn Dialogs [27.092581945832713]
  本稿では,多数のダイアログタスクを同じ形式で統一する新しいフレームワークであるCESARを提案する。 命令ベースのダイアログタスクのベンチマークであるInstructDialにCESARを適用する。
  論文  参考訳（メタデータ） (2023-11-29T06:02:16Z)
• Context-dependent Instruction Tuning for Dialogue Response Generation [61.21790201307179]
  最近の言語モデルは、微調整中にタスク入力に命令を組み込むことで、自然言語計算タスクにおいて顕著なパフォーマンスを実現している。 マルチターン対話のためのコンテキストベース命令微調整フレームワークを提案する。 評価中、モデルは以前の文脈に基づいて指示を生成し、応答を自己導出する。
  論文  参考訳（メタデータ） (2023-11-13T01:25:30Z)
• Self-Explanation Prompting Improves Dialogue Understanding in Large Language Models [52.24756457516834]
  大規模言語モデル(LLM)の理解能力を高めるための新たな「自己説明(Self-Explanation)」を提案する。 このタスクに依存しないアプローチでは、タスク実行前の各対話発話を分析し、様々な対話中心のタスクのパフォーマンスを向上させる必要がある。 6つのベンチマークデータセットによる実験結果から,本手法は他のゼロショットプロンプトよりも一貫して優れており,数ショットプロンプトの有効性を超えていることが明らかとなった。
  論文  参考訳（メタデータ） (2023-09-22T15:41:34Z)
• Enhancing Large Language Models Against Inductive Instructions with Dual-critique Prompting [55.15697111170836]
  本稿では,大規模言語モデル(LLM)のテクスト誘導的指示に対する行動を明らかにするとともに,その真しさと有用性を高める。 広範囲な人的・自動的な評価の結果,帰納的命令処理において LLM に共通する脆弱性が発見された。 異なる帰納的スタイルがモデルに同じエラーを識別する能力に影響を及ぼし、基礎となる仮定の複雑さがモデルの性能にも影響を及ぼす。
  論文  参考訳（メタデータ） (2023-05-23T06:38:20Z)
• Towards Large-Scale Interpretable Knowledge Graph Reasoning for Dialogue Systems [109.16553492049441]
  よりスケーラブルで一般化可能な対話システムに知識推論機能を組み込む新しい手法を提案する。 我々の知識を最大限に活用するために、変圧器モデルが微分可能な知識グラフを解析して応答を生成するのは、これが初めてである。
  論文  参考訳（メタデータ） (2022-03-20T17:51:49Z)
• Dialogue-oriented Pre-training [70.03028879331339]
  一般的なプレーンテキスト上での会話特徴をシミュレートする3つの手法を提案する。 Dialog-PrLMは3つの公開マルチターン対話データセットに基づいて微調整される。
  論文  参考訳（メタデータ） (2021-06-01T12:02:46Z)
• Multi-Agent Task-Oriented Dialog Policy Learning with Role-Aware Reward Decomposition [64.06167416127386]
  本稿では,システムとユーザの両方をダイアログエージェントとみなすマルチエージェントダイアログポリシー学習を提案する。 2人のエージェントが互いに相互作用し、同時に一緒に学習されます。 その結果,本手法がシステムポリシとユーザポリシを同時に構築できることが示唆された。
  論文  参考訳（メタデータ） (2020-04-08T04:51:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。