論文の概要: Mind the Quote: Enabling Quotation-Aware Dialogue in LLMs via Plug-and-Play Modules

• arxiv url: http://arxiv.org/abs/2505.24292v1
• Date: Fri, 30 May 2025 07:06:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-02 19:47:52.824435
• Title: Mind the Quote: Enabling Quotation-Aware Dialogue in LLMs via Plug-and-Play Modules
• Title（参考訳）: Mind the Quote:Plug-and-PlayモジュールによるLCMにおけるクエリ認識対話の実現
• Authors: Yueqi Zhang, Peiwen Yuan, Shaoxiong Feng, Yiwei Li, Xinglin Wang, Jiayi Shi, Chuyi Tan, Boyuan Pan, Yao Hu, Kan Li,
• Abstract要約: 課題をスパン条件付き世代として定式化し、各ターンを対話履歴に分解する。 本稿では,タスク固有の対話を自動的に合成する引用中心のデータパイプラインを提案する。 本稿では,2つのボトルネックプロジェクションをアタッチメントヘッドにアタッチする軽量なトレーニングベース手法QuAdaを提案する。
• 参考スコア（独自算出の注目度）: 19.673388630963807
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Human-AI conversation frequently relies on quoting earlier text-"check it with the formula I just highlighted"-yet today's large language models (LLMs) lack an explicit mechanism for locating and exploiting such spans. We formalise the challenge as span-conditioned generation, decomposing each turn into the dialogue history, a set of token-offset quotation spans, and an intent utterance. Building on this abstraction, we introduce a quotation-centric data pipeline that automatically synthesises task-specific dialogues, verifies answer correctness through multi-stage consistency checks, and yields both a heterogeneous training corpus and the first benchmark covering five representative scenarios. To meet the benchmark's zero-overhead and parameter-efficiency requirements, we propose QuAda, a lightweight training-based method that attaches two bottleneck projections to every attention head, dynamically amplifying or suppressing attention to quoted spans at inference time while leaving the prompt unchanged and updating < 2.8% of backbone weights. Experiments across models show that QuAda is suitable for all scenarios and generalises to unseen topics, offering an effective, plug-and-play solution for quotation-aware dialogue.
• Abstract（参考訳）: 今日の大規模言語モデル(LLM)には、そのようなスパンの特定と利用のための明確なメカニズムが欠如している。 課題をスパン条件付き生成として定式化し、各ターンを対話履歴、トークンオフセットの引用スパン、意図的発話に分解する。 この抽象化に基づいて、タスク固有の対話を自動的に合成し、多段階整合性チェックによって回答の正当性を検証し、異種学習コーパスと5つの代表的なシナリオをカバーする最初のベンチマークの両方を出力する、引用中心のデータパイプラインを導入する。 ベンチマークのゼロオーバーヘッドとパラメータ効率の要件を満たすために,各アテンションヘッドに2つのボトルネックプロジェクションをアタッチする軽量なトレーニングベース手法QuAdaを提案する。 モデル間での実験では、QuAdaはすべてのシナリオに適しており、参照できないトピックを一般化し、引用を意識した対話のための効果的なプラグアンドプレイソリューションを提供する。

関連論文リスト

• A Multi-view Discourse Framework for Integrating Semantic and Syntactic Features in Dialog Agents [0.0]
  マルチターン対話モデルは,会話の文脈を利用して人間的な応答を生成することを目的としている。 既存の手法はしばしばこれらの発話間の相互作用を無視したり、それら全てを等しく重要なものとして扱う。 本稿では,検索に基づく対話システムにおける応答選択のための談話認識フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-04-12T04:22:18Z)
• Full-Duplex-Bench: A Benchmark to Evaluate Full-duplex Spoken Dialogue Models on Turn-taking Capabilities [93.09944267871163]
  FullDuplexBenchは、重要な会話動作を体系的に評価するベンチマークである。 音声対話のモデリングを推進し、よりインタラクティブで自然な対話システムの開発を促進することを目的としている。
  論文  参考訳（メタデータ） (2025-03-06T18:59:16Z)
• OmniFlatten: An End-to-end GPT Model for Seamless Voice Conversation [53.7173034249361]
  エンド・ツー・エンドのGPTベースモデルであるOmniFlattenは、低レイテンシで自然な会話に固有の複雑な振る舞いを効果的にモデル化することができる。 提案手法は, 簡便なモデリング手法と, より効率的かつ自然な対話システムを構築するための研究の方向性を提供する。
  論文  参考訳（メタデータ） (2024-10-23T11:58:58Z)
• Interactive Text-to-Image Retrieval with Large Language Models: A Plug-and-Play Approach [33.231639257323536]
  本稿では,対話型テキスト・画像検索タスクにおける対話型コンテキストクエリの問題に対処する。 対話形式のコンテキストを再構成することにより、既存の視覚的対話データから検索モデルを微調整する必要がなくなる。 対象画像の属性に関する非冗長な質問を生成するために,LLM質問機を構築した。
  論文  参考訳（メタデータ） (2024-06-05T16:09:01Z)
• Cue-CoT: Chain-of-thought Prompting for Responding to In-depth Dialogue Questions with LLMs [59.74002011562726]
  我々は、よりパーソナライズされ魅力的な応答を提供するために、新しい言語的キューに基づく思考の連鎖(textitCue-CoT)を提案する。 中国語と英語の6つのデータセットからなる詳細な対話質問を用いたベンチマークを構築した。 実験により,提案手法は,すべてのデータセットにおいて,テクステルパーフルネスとテクスチタアクセプタビリティの両方の観点から,標準的プロンプト法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-05-19T16:27:43Z)
• DIONYSUS: A Pre-trained Model for Low-Resource Dialogue Summarization [127.714919036388]
  DIONYSUSは、任意の新しいドメインでの対話を要約するための訓練済みエンコーダデコーダモデルである。 実験の結果,DIONYSUSは6つのデータセット上で既存の手法よりも優れていた。
  論文  参考訳（メタデータ） (2022-12-20T06:21:21Z)
• Unsupervised Abstractive Dialogue Summarization for Tete-a-Tetes [49.901984490961624]
  テテ-ア-テト(SuTaT)のための非教師なし抽象的対話要約モデルを提案する。 SuTaTは条件付き生成モジュールと2つの教師なし要約モジュールからなる。 実験の結果,SuTaTは自動評価と人的評価の両方において教師なし対話要約よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2020-09-15T03:27:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。