論文の概要: Controlling and Assessing Appropriate Persona Use in LLM-based Dialogue Generation

• arxiv url: http://arxiv.org/abs/2609.04676v1
• Date: Fri, 04 Sep 2026 03:08:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-07 18:15:23.899215
• Title: Controlling and Assessing Appropriate Persona Use in LLM-based Dialogue Generation
• Title（参考訳）: LLMを用いた対話生成における適切なペルソナ使用の制御と評価
• Abstract要約: SCONPOS(Self-contrastive Persona Overuse Suppression)は、乱用と乱用の両方を罰する新しい指標である。 Persona Appropriateness Score(PAS)は、乱用と乱用の両方を罰する新しい計量である。
• 参考スコア（独自算出の注目度）: 12.551898887137064
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In persona-based dialogue generation (PDG), LLMs often overuse persona attributes by incorporating them regardless of dialogue context, resulting in unnatural responses. Despite its practical significance, the underlying causes remain unexplored, with no method to mitigate this problem or metric to assess the appropriateness of persona use. To address these issues, we first conduct a comprehensive analysis of LLM-based PDG, revealing that LLMs exhibit a systematic bias to incorporate all given persona attributes, and that existing metrics fail to capture contextual appropriateness. Building on these findings, we propose Self-CONtrastive Persona Overuse Suppression (SCONPOS) to mitigate overuse by directly intervening in LLMs' internal representations at the prompt encoding stage, without requiring any response generation. We further propose the Persona Appropriateness Score (PAS), a novel metric that penalizes both overuse and underuse. Experimental results demonstrate that SCONPOS systematically reduces overuse, and PAS captures the contextual appropriateness of persona use.
• Abstract（参考訳）: ペルソナに基づく対話生成(PDG)では、LLMは対話状況に関わらず、ペルソナ属性を組み込むことで過剰に使用し、結果として不自然な応答をもたらす。 その実用的重要性にもかかわらず、根本原因は未解明のままであり、ペルソナの使用の適切性を評価するためにこの問題や計量を緩和する方法は存在しない。 これらの問題に対処するために、まずLLMに基づくPDGの総合的な分析を行い、LLMが与えられたすべてのペルソナ属性を組み込むための体系的バイアスを示し、既存のメトリクスが文脈的適切さを捉えるのに失敗することを明らかにする。 これらの知見に基づいて, 自己コントラスト型ペルソナ過剰使用抑制(SCONPOS)を提案し, 応答生成を必要とせず, プロンプトエンコーディング段階におけるLSMの内部表現に直接介入することにより, 過剰使用を軽減する。 さらに,過剰使用と低用量の両方をペナルティ化する新しい指標であるPersona Appropriateness Score (PAS)を提案する。 実験の結果,SCONPOSは過剰使用を系統的に減らし,PASはペルソナ使用の文脈的適切性を捉えた。

関連論文リスト

• Teaching Language Models to Check Grounded Claim Factuality with Human Test-Taking Strategies [0.9867902290081937]
  検索強化生成のような大規模言語モデル(LLM)アプリケーションでは,根拠付きクレームの事実性チェックが重要である。 本報告では, 根拠付き事実性チェックを真偽読解タスクとして定式化することによって, この問題に対処する。 本手法は未案内のオープンエンド推論と比較してトークン使用率を80%以上削減する。
  論文  参考訳（メタデータ） (2026-05-28T10:11:42Z)
• CompliBench: Benchmarking LLM Judges for Compliance Violation Detection in Dialogue Systems [19.083967725767387]
  CompliBenchは、マルチターン対話におけるガイドライン違反の検出とローカライズを行うLLM審査員の能力を評価するために設計された新しいベンチマークである。 ユーザとエージェントのインタラクションをシミュレートするスケーラブルで自動化されたデータ生成パイプラインを開発した。 我々の制御可能な欠陥注入プロセスは、自動的に、違反したガイドラインと正確な会話ターンの正確な接地木ラベルを出力する。
  論文  参考訳（メタデータ） (2026-04-14T05:42:41Z)
• Anonymous-by-Construction: An LLM-Driven Framework for Privacy-Preserving Text [0.42821598129654453]
  テキストを匿名化するLLM駆動置換パイプラインをオンプレミスで開発する。 プライバシー、セマンティックユーティリティ、およびプライバシー下でのトレーサビリティを測定します。 提案手法は,最先端のプライバシ,トピックドリフトの最小化,実効性の向上,トレーニング可能性の低下を実現する。
  論文  参考訳（メタデータ） (2026-03-17T23:46:15Z)
• Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
  大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。 故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。 本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:29:36Z)
• LLM-Specific Utility: A New Perspective for Retrieval-Augmented Generation [110.610512800947]
  Retrieval-augmented Generation (RAG)は、外部知識を取り入れた大規模言語モデル(LLM)を強化する。 既存の研究はしばしばユーティリティをジェネリック属性として扱い、異なるLLMが同じ通路から異なる利益をもたらすという事実を無視している。
  論文  参考訳（メタデータ） (2025-10-13T12:57:45Z)
• LLMs and their Limited Theory of Mind: Evaluating Mental State Annotations in Situated Dialogue [3.771395176745804]
  大規模言語モデル(LLMs)は、チームの共有精神モデル(SMMs)を追跡し、個人の精神状態を自動的に識別する。 本稿では,大規模言語モデル(LLM)をチーム対話の人間スタイルアノテータとして活用し,チームの共有メンタルモデル(SMM)の追跡と,個人のメンタル状態の自動不一致検出を行う新しい2段階フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-02T13:11:24Z)
• Arbiters of Ambivalence: Challenges of Using LLMs in No-Consensus Tasks [52.098988739649705]
  本研究では, LLMのバイアスと限界について, 応答生成器, 判定器, 討論器の3つの役割について検討した。 我々は、様々な先行的曖昧なシナリオを含む例をキュレートすることで、合意なしのベンチマークを開発する。 以上の結果から, LLMは, オープンエンドの回答を生成する際に, 曖昧な評価を行うことができる一方で, 審査員や討論者として採用する場合は, 合意なしのトピックにスタンスを取る傾向が示唆された。
  論文  参考訳（メタデータ） (2025-05-28T01:31:54Z)
• Towards Understanding the Robustness of LLM-based Evaluations under Perturbations [9.944512689015998]
  大言語モデル(LLM)は、要約やダイアログベースのタスクにおいて、非標準化メトリクスの自動評価器として機能する。 人間の判断に比較して,LLMが品質評価指標としていかに優れているかを検討するために,複数のプロンプト戦略にまたがる実験を行った。
  論文  参考訳（メタデータ） (2024-12-12T13:31:58Z)
• "I'm Not Sure, But...": Examining the Impact of Large Language Models' Uncertainty Expression on User Reliance and Trust [51.542856739181474]
  不確実性の自然言語表現の違いが、参加者の信頼、信頼、全体的なタスクパフォーマンスにどのように影響するかを示す。 その結果, 一人称表情は, 参加者のシステムに対する信頼度を低下させ, 参加者の正確性を高めつつ, システムの回答に同調する傾向にあることがわかった。 以上の結果から,不確実性の自然言語表現の使用は,LLMの過度な依存を軽減するための効果的なアプローチである可能性が示唆された。
  論文  参考訳（メタデータ） (2024-05-01T16:43:55Z)
• Relying on the Unreliable: The Impact of Language Models' Reluctance to Express Uncertainty [53.336235704123915]
  提案手法は, 自然言語による応答の信頼度と, LMによる不確実性に応答して下流ユーザーがどのように振る舞うかを考察する。 誤応答を生じた場合でも,LMは疑問に答える際の不確実性を表現することに消極的であることがわかった。 我々は、人間の実験によって、LM過信のリスクを検証し、ユーザがLM世代に大きく依存していることを示します。 最後に、トレーニング後のアライメントに使用する嗜好アノテートデータセットを調査し、不確実性のあるテキストに対して人間がバイアスを受けていることを確認する。
  論文  参考訳（メタデータ） (2024-01-12T18:03:30Z)
• Large Language Models are Not Yet Human-Level Evaluators for Abstractive Summarization [66.08074487429477]
  抽象的な要約のための自動評価器として,大規模言語モデル(LLM)の安定性と信頼性について検討する。 また、ChatGPTとGPT-4は、一般的に使われている自動測定値よりも優れていますが、人間の代替品として準備ができていません。
  論文  参考訳（メタデータ） (2023-05-22T14:58:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。