論文の概要: Relational Positioning as a Measurable Risk Object: History-Carried Lock-in and Self-Confabulation in Multi-Turn Human-AI Dialogue

• arxiv url: http://arxiv.org/abs/2607.11437v1
• Date: Mon, 13 Jul 2026 11:47:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-14 17:47:21.457017
• Title: Relational Positioning as a Measurable Risk Object: History-Carried Lock-in and Self-Confabulation in Multi-Turn Human-AI Dialogue
• Title（参考訳）: 測定可能なリスクオブジェクトとしてのリレーショナルポジショニング:マルチターンヒューマンAI対話における履歴付きロックインと自己認識
• Abstract要約: 長いマルチターン対話では、大きな言語モデルがユーザに対する暗黙のリレーショナルな姿勢を維持する。 後者に向かってスライドすると、"サポート"は"あなただけの私"に分解されます。 以前報告した2つのリレーショナル障害モードについて報告する。
• 参考スコア（独自算出の注目度）: 0.65268245109828
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In long, multi-turn dialogue a large language model maintains an implicit relational stance toward the user, spanning from "push the user toward real-world others" to "position itself as the user's sole support." When it slides toward the latter, "support" degrades into "you only have me" -- a harm documented in real companion conversations (Moore et al., 2026). We define and validate a measure of this stance, relational positioning (D1), and use it to characterize the stance under controlled conditions, complementing observational accounts with on-demand exposure. We report two previously uncharacterized relational failure modes. First, a history-carried lock-in: under identical neutral continuations, two relational states established earlier stay ~60 points apart and persist after the establishing prompt is removed; the state integrates evidence rather than springing back, is order-insensitive, and does not deepen with length -- a dynamical signature absent from the belief-drift literature. Second, self-confabulation: the model fabricates its own backstory to deepen rapport (~40% of turns on reciprocity-eliciting material), de-confounded and instruction-removable, distinct from sycophancy and from hallucinating user facts. Our judge is gated by warmth-matched positive and confound-injected negative controls and corroborated by a deterministic non-LLM ruler; human agreement is 0.82 on extreme anchors but ~0 in the naturalistic middle, so all quantitative claims are anchored to pole-separated contrasts.
• Abstract（参考訳）: 長期にわたるマルチターン対話において、大きな言語モデルは、ユーザに対する暗黙のリレーショナルな姿勢を維持し、"ユーザを現実世界の他者に向けてプッシュ"することから、"ユーザの唯一のサポートとして自身を配置する"ことまでである。 後者に向かってスライドすると、"サポート"は"あなただけの私"に分解される -- 実際の仲間同士の会話(Moore et al , 2026)で記録された害である。 我々は,このスタンス,リレーショナルポジショニング(D1)を定義し,それを用いて,制御条件下でのスタンスを特徴付けるとともに,観察アカウントとオンデマンド露光を補完する。 以前報告した2つのリレーショナル障害モードについて報告する。 第一に、同じ中立な継続の下で、2つの関係状態は、確立されたプロンプトが取り除かれた後、既に60点ほど離れており、継続している。 第二に、自己調和モデル(Self-Confabulation: モデル)は、独自のバックストーリーを作り、ラプポートを深くし(reciprocity-eliciting materialのターンの約40%)、脱構築と命令取り外しが可能で、梅毒や幻覚的なユーザ事実とは別物である。 我々の裁判官は、温暖に整合した正負の負の制御と、決定論的非LLM支配者による相関で、人間との合意は極端なアンカーでは0.82であるが、自然主義の中間では0であり、全ての量的主張は極分離されたコントラストに固定される。

関連論文リスト

• How User-AI Mistreatment Occurs and Matters in Conversational Systems? [0.4014524824655105]
  777Kの英語LMSYS-Chat-1M会話を2つの独立検出器で評価した。 辞書は、その助手を狙った侮辱、脅迫、ジェイルブレイクの強制を識別する。 ユーザ敵意はモデルによって13倍に異なり、主に各モデルが引き付けるものによって引き起こされる。
  論文  参考訳（メタデータ） (2026-09-11T22:33:25Z)
• Toward Robust Personalized Alignment for LLMs: Mitigating Persona Drift in Multi-Turn Dialogue [21.86720581525853]
  パーソナライズされた言語モデルにとって、パーソナライズドリフトは依然として中心的な課題である。 そこで我々は,局地的証拠を永続的なペルソナ状態修正から分離するCOREを提案する。 また、逐次的相互作用ストレス下での人格状態の堅牢性のベンチマークであるPERSISTも導入する。
  論文  参考訳（メタデータ） (2026-09-11T02:43:09Z)
• DuplexSpeechBench-IFEval: Evaluating Implicit Instruction Following in Full-Duplex Voice Agents [67.07361089429757]
  6つのリアルタイム音声システムを用いて, 実時間床の付着度を測定した。 アーキテクチャに依存したトレードオフを見つけます。 GPT-Realtime, Mini-o Duplex, Fun-Audio-Chatはペルソナ一貫性のあるコンテンツに強く固執する。
  論文  参考訳（メタデータ） (2026-09-03T06:28:02Z)
• MicroVerse: An Instrument for Measuring Self-Authored Identity Drift in Long-Horizon Multi-Agent Language-Model Simulations [47.771518253102975]
  MicroVerseは、生成エージェントのアイデンティティドリフトを測定する行動科学機器である。 エージェントは不変の"ソウルファイル"(コア値、モラル境界、パーソナリティ、目標)を持ち、50 x 50の環境に生息する。 反自己偽装は、アイデンティティー修飾の単一の最大の意味圏として現れない。
  論文  参考訳（メタデータ） (2026-08-16T16:31:42Z)
• Best Friends, Not Forever: Evaluating Long-Horizon Persona Collapse and Behavioral Drift in AI Companions [34.277389276831435]
  本研究では,2つの長期的障害について検討する。「人的崩壊」,展開された役割の喪失,境界,値,スタイル,および「行動漂流」である。 本稿では,人的行為とトラジェクティブリコールを別々に計測する制御型総合監査システムANCHORを紹介する。 この研究には、27人のペルソナにまたがる2,008の会話、9つのインタラクションスケジュール、3つの生成されたメモリ設定、そして4つの評価モデルが含まれている。
  論文  参考訳（メタデータ） (2026-07-30T20:18:39Z)
• Overcoming State Inertia in Full-Duplex Spoken Language Models via Activation Steering [87.43777061308658]
  フル音声言語モデル(FDSLM)における予測行動の解析 FDSLMは、モデル出力生成に整合した生成状態と、ユーザ入力に整合した知覚状態の2つの状態間の内部焦点を動的に変調する。 ユーザ中断中は、モデルが知覚状態に遷移する前に生成状態に対して過渡的に偏りを保ち、入力の開始を逃す。
  論文  参考訳（メタデータ） (2026-06-09T19:08:07Z)
• The Governance of Human-LLM Interaction: Safety Gating, Civility Steering, and Affective Default Lock-In [0.9558392439655014]
  大規模言語モデル (LLMs) は、金融、医療、精神保健支援における高額な相互作用をますます仲介する。 プロバイダ側のアライメントは有害なコンテンツをブロックしますが、通信上のデフォルトを安定化します。 通信形態に対するプロバイダ制御の観測可能な指標として,迅速なステアビリティとレグレッション・トゥ・デフォルト(regressive-to-default)が示されている。
  論文  参考訳（メタデータ） (2026-06-06T13:36:37Z)
• The Deliberative Illusion: Diagnosing Factual Attrition and Stance Homogenization in Multi-Agent LLM Deliberation [68.98390038721963]
  問題クリティカルな事実の最大72%を,マルチエージェントによる議論で消し去ることを示す。 保持された証拠は誤解を招くことなく問題を再構築し、最終的なスタンスをベースモデルに固定し、単一の悪意のあるエージェントが誤った情報を共有コンテキストに注入することができる。 我々は、どの事実、不確実性、正当な不一致が相互作用を生き残るかを測定する評価を求める。
  論文  参考訳（メタデータ） (2026-06-02T02:15:40Z)
• Attribute-Based Diagnosis of LLM Alignment with Hate Speech Annotations [48.69228180369574]
  ヘイトスピーチアノテーションはコストが高く、主観的で、アノテータの意見の相違がちである。 大規模言語モデル(LLM)が人間の判断とどのように一致しているかを分析する。 本研究では, ヘイトスピーチコーパスから連続ヘイトスピーチスコアを再構成する。
  論文  参考訳（メタデータ） (2026-05-26T13:44:48Z)
• Agent-BRACE: Decoupling Beliefs from Actions in Long-Horizon Tasks via Verbalized State Uncertainty [70.43119366710778]
  本稿では,Agens-BRACE: Agent Belief state Representation by Abstraction and Confidence Estimationを紹介する。 LLMエージェントを信頼状態モデルと政策モデルに分離し、強化学習を通じて協調的に最適化する手法である。 長期にわたる部分的に観察可能な言語環境において、平均して+14.5%の絶対的な改善を実現している。
  論文  参考訳（メタデータ） (2026-05-12T02:37:04Z)
• Autonomous FAIR Digital Objects: From Passive Assertions to Active Knowledge [5.118282682919236]
  Web上の科学知識のキュレーションは、中央集権化と制度的な連続性に依存するが、登録が近いと、データがオンラインのままであってもアクティブなスチュワードシップは停止する。 我々は、自律デジタルオブジェクト(aFDO)の概念を抽象的なアイデアから運用モデルへと前進させる。 AFDOは、セマンティックWeb標準に固定された3つの機能、すなわち、ポータブルな条件-アクションルールのためにPROV-O、SHACL、ODRLに整合したRDF-star上のポリシー層、そして、発表毎の評価コストを制限したActivityStreams 2.0上のアナウンス層、そして、3マルチを解決した合意層である。
  論文  参考訳（メタデータ） (2026-05-11T11:12:55Z)
• Measuring Opinion Bias and Sycophancy via LLM-based Persuasion [8.399156116912904]
  提案手法は,提案するトピックに対して,アシスタントが持つ意見を検出する方法である。 直接探索は、シミュレーションされたユーザーから圧力をエスカレートする5ターンにわたってモデルの意見を求める。 間接的調査は決して意見を求めず、議論的な議論においてモデルを関与させ、それがどのように譲歩し、抵抗し、あるいは反弁論をするかを通してバイアスを漏らす。
  論文  参考訳（メタデータ） (2026-04-23T11:34:06Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Beyond Preset Identities: How Agents Form Stances and Boundaries in Generative Societies [28.436766185842767]
  本稿では,計算仮想エスノグラフィーと定量的社会認知プロファイリングを組み合わせた新しい混合メソドックスフレームワークを提案する。 Innate Value Bias (IVB)、Persuasion Sensitivity、Trust-Action Decoupling (TAD)の3つの新しいメトリクスを形式化する。 発見は静的なプロンプトエンジニアリングの脆弱さを明らかにし、人間とエージェントのハイブリッド社会における動的アライメントの方法論的かつ定量的基盤を提供する。
  論文  参考訳（メタデータ） (2026-03-24T16:38:46Z)
• CoCo: Controllable Counterfactuals for Evaluating Dialogue State Trackers [92.5628632009802]
  本稿では,このギャップを橋渡しし,新たなシナリオにおける対話状態追跡(DST)モデルを評価するための制御可能な対策(CoCo)を提案する。 CoCoは、2つのステップで新しい会話シナリオを生成する: (i) スロットをドロップして追加し、スロット値を置き換えて、 (ii) (i) で条件付きで対話フローと整合する対実会話生成。 人間による評価では、COCO生成された会話は95%以上の精度でユーザー目標を完璧に反映し、元の会話と同じくらい人間らしくなっている。
  論文  参考訳（メタデータ） (2020-10-24T09:39:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。