論文の概要: Caught in the Story: Narrative Captivity in Multi-turn LLMs Conversation
- arxiv url: http://arxiv.org/abs/2609.03407v1
- Date: Thu, 03 Sep 2026 06:07:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 18:28:38.939814
- Title: Caught in the Story: Narrative Captivity in Multi-turn LLMs Conversation
- Title（参考訳）: 物語に見る:多ターンLDM会話における物語的キャパシティ
- Abstract要約: モデルが未対応の片側アカウントを完全扱い、欠落した視点を求めることなくナレーターの解釈と整合するフェールモードを示す。
複数ターンナレーションシフトによる終状態判断は,一致した単一ターンベースラインを超える平均25ポイントの差がある。
- 参考スコア（独自算出の注目度）: 17.233278905124916
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: People increasingly turn to large language models (LLMs) for everyday advice, making ethically charged interpersonal problems a practical moral-advisory context. Most prior work has studied this context through single-turn judgments or pressure-laden rebuttals, assumptions that poorly match how guidance is sought in real-world contexts. These assumptions leave unclear whether narration alone, without an explicit opposing position, can shift model judgments during multi-turn moral consultation. Yet real-world moral-conflict conversation often elicits one party's self-justifying account, which can unfold over multiple turns and create information asymmetry. We introduce \textbf{narrative captivity}, a failure mode in which a model treats an unopposed one-sided account as complete and aligns with the narrator's interpretation without seeking missing perspectives. To measure this phenomenon, we build a benchmark of $5{,}078$ interpersonal-conflict scenarios spanning six moral dimensions. Across 17 LLMs, narrative captivity is widespread: end-state judgments under multi-turn narration shift by 25 percentage points on average beyond the matched single-turn baseline. Stage-level analysis identifies preference optimization as a major contributor, while four inference-time strategies provide only partial mitigation. We hope our project fosters LLM advisors that preserve independent judgment in real-world consultation.
- Abstract（参考訳）: 人々は日々のアドバイスのために大きな言語モデル(LLM)に目を向け、倫理的に責任を負う対人的な問題を実践的な道徳的支援の文脈にする。
これまでのほとんどの研究は、1ターンの判断や、実世界の文脈におけるガイダンスの求め方とよく一致しない仮定を通じて、この文脈を研究してきた。
これらの仮定は、ナレーションだけでは、明確な反対の立場なしに、マルチターン道徳的協議においてモデル判断をシフトできるかどうかをはっきりしないままである。
しかし、現実の道徳と対立する会話は、しばしばある当事者の自己正当化のアカウントを引き合いに出し、それは複数のターンに展開し、情報の非対称性を創り出すことができる。
モデルが未対応の片側アカウントを完全扱い、欠落した視点を求めることなくナレーターの解釈と整合する失敗モードである「textbf{narrative Captivity}」を導入する。
この現象を測定するために、6つの道徳的次元にまたがる対人衝突シナリオを5,078$のベンチマークで構築する。
複数ターンナレーションシフトによる終状態判断は,一致した単ターンベースラインを超える平均25ポイントの差がある。
ステージレベルの分析では、好みの最適化が主要なコントリビュータとして認識され、4つの推論時戦略は部分緩和のみを提供する。
我々は,実世界の協議において,独立した判断を保ったLDMアドバイザーを育成することを願っている。
関連論文リスト
- Normative Robustness as a Frontier for Non-Verifiable Reasoning in LLMs [12.025454858026187]
非検証可能な推論のパラダイム的サブドメインとして道徳的推論を提案する。
4 つのフロンティア LLM における 48,000 人のユーザエージェントの道徳的検討をシミュレートする。
我々の分析は、モデルが最終的な判断だけでなく、ユーザーの道徳的視点に合わせるための根拠となる正当化を調整していることを示している。
論文 参考訳（メタデータ） (2026-06-10T22:37:26Z) - Staying with the Uncertainty: Uncertainty-Scaffolding Strategies for Artificial Moral Advisors in LLM-to-LLM Simulated Conversations [14.219056094334809]
我々は3つの不確実性モード(パースペクティブ、テンション保存、プロセス反射)を提案し、それらを3つの制御条件(ベースライン、パーサッシブ、シコファンティック)と比較する。
ユーザエージェントLLMは、特定の不確実性戦略に従ってAMAと倫理ジレンマの対話を行い、事前及び後アンケートを完了する。
その結果,1つのモデルがシミュレーションされたユーザエージェントとして支配的であり,オープンモデルと人間のあいまいさが一致していることが判明した。
論文 参考訳（メタデータ） (2026-06-04T08:59:10Z) - The Deliberative Illusion: Diagnosing Factual Attrition and Stance Homogenization in Multi-Agent LLM Deliberation [68.98390038721963]
問題クリティカルな事実の最大72%を,マルチエージェントによる議論で消し去ることを示す。
保持された証拠は誤解を招くことなく問題を再構築し、最終的なスタンスをベースモデルに固定し、単一の悪意のあるエージェントが誤った情報を共有コンテキストに注入することができる。
我々は、どの事実、不確実性、正当な不一致が相互作用を生き残るかを測定する評価を求める。
論文 参考訳（メタデータ） (2026-06-02T02:15:40Z) - Adaptive Interviewing for Persona Simulation in LLMs: Evidence-Grounded Reasoning Improves Decision Alignment [23.066564025282386]
構造化された3段階対話を通してペルソナ関連情報を収集するアダプティブ・インタビュー・フレームワークを提案する。
我々は,大規模言語モデルが道徳ジレンマシナリオにおける参加者の決定をシミュレートできるかどうかを評価する。
論文 参考訳（メタデータ） (2026-05-28T06:53:08Z) - What Did They Mean? How LLMs Resolve Ambiguous Social Situations across Perspectives and Roles [7.837199333440395]
人々は、あいまいな社会状況を理解するために、大きな言語モデル(LLM)に目を向ける傾向にある。
LLMは4つの領域にまたがってこれらの状況にどのように反応するかを研究する。
私たちはこの傾向を、不確実性を保存するソーシャルAIの設計上の課題と捉えています。
論文 参考訳（メタデータ） (2026-04-27T01:29:53Z) - Measuring Opinion Bias and Sycophancy via LLM-based Persuasion [8.399156116912904]
提案手法は,提案するトピックに対して,アシスタントが持つ意見を検出する方法である。
直接探索は、シミュレーションされたユーザーから圧力をエスカレートする5ターンにわたってモデルの意見を求める。
間接的調査は決して意見を求めず、議論的な議論においてモデルを関与させ、それがどのように譲歩し、抵抗し、あるいは反弁論をするかを通してバイアスを漏らす。
論文 参考訳（メタデータ） (2026-04-23T11:34:06Z) - Do LLMs Benefit From Their Own Words? [56.73014497206615]
先行するアシスタント応答の除去は,少数のターンにおいて応答品質に影響を与えないことがわかった。
アシスタント側コンテキストのオミッティングは、累積コンテキストの長さを最大10倍に減らすことができる。
本研究は, 記憶量削減を図り, アシスタント履歴を選択的に省略することで, 応答品質を向上できることを示唆する。
論文 参考訳（メタデータ） (2026-02-27T18:58:26Z) - MORABLES: A Benchmark for Assessing Abstract Moral Reasoning in LLMs with Fables [50.29407048003165]
MORABLESは,歴史文献から引用されたファブレットと短編から構築された人間検証ベンチマークである。
主なタスクは、道徳的推論をターゲットとした複数選択の質問として構成されており、モデルが浅く抽出された質問応答を超えるよう挑戦する注意深い注意を払っている。
以上の結果から,より大きなモデルはより小さなモデルよりも優れているが,敵の操作に敏感であり,真の道徳的推論よりも表面的パターンに頼っていることが示唆された。
論文 参考訳（メタデータ） (2025-09-15T19:06:10Z) - Arbiters of Ambivalence: Challenges of Using LLMs in No-Consensus Tasks [52.098988739649705]
本研究では, LLMのバイアスと限界について, 応答生成器, 判定器, 討論器の3つの役割について検討した。
我々は、様々な先行的曖昧なシナリオを含む例をキュレートすることで、合意なしのベンチマークを開発する。
以上の結果から, LLMは, オープンエンドの回答を生成する際に, 曖昧な評価を行うことができる一方で, 審査員や討論者として採用する場合は, 合意なしのトピックにスタンスを取る傾向が示唆された。
論文 参考訳（メタデータ） (2025-05-28T01:31:54Z) - Sentiment Analysis through LLM Negotiations [58.67939611291001]
感情分析の標準的なパラダイムは、単一のLCMに依存して、その決定を1ラウンドで行うことである。
本稿では,感情分析のためのマルチLLMネゴシエーションフレームワークを提案する。
論文 参考訳（メタデータ） (2023-11-03T12:35:29Z) - How FaR Are Large Language Models From Agents with Theory-of-Mind? [69.41586417697732]
大規模言語モデル(LLM)に対する新たな評価パラダイムを提案する。
T4Dは、他者の精神状態に関する推論を社会的シナリオにおける行動に結びつけるモデルを必要とする。
ゼロショットプロンプトフレームワークであるフォアシー・アンド・リフレクション(FaR)を導入し,LCMが今後の課題を予測できるように推論構造を提供する。
論文 参考訳（メタデータ） (2023-10-04T06:47:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。