論文の概要: What if LLMs Ate Their Words: Causal History Effects in Multi-Turn Interaction

• arxiv url: http://arxiv.org/abs/2609.05882v1
• Date: Sat, 05 Sep 2026 05:06:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.161012
• Title: What if LLMs Ate Their Words: Causal History Effects in Multi-Turn Interaction
• Title（参考訳）: LLMが言葉を理解すれば--マルチTurnインタラクションにおける因果履歴の影響-
• Abstract要約: モデル、タスク、ターン、およびモデル内における効果がどのように現れるかは、まだ不明である。 ターン手術は、一度に1つのアシスタントターンでさらに介入する。 全体として、アシスタント生成履歴は、多ターン性能にアクティブだが選択的に影響を及ぼす。
• 参考スコア（独自算出の注目度）: 21.294220918464525
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-turn interaction creates a feedback process in which an LLM's previous responses become context for later behavior. Prior work shows substantial multi-turn degradation and that assistant-generated history can affect later behavior. However, it remains unclear how these effects manifest across models, tasks, turns, and inside a model. We study these gaps across six task families and five models. Degradation from fully specified single-turn input (FULL) to progressively revealed multi-turn interaction (SHARDED) is clearly task- and model-dependent, and stronger one-shot performance does not imply greater interaction robustness. We then retrospectively analyze completed SHARDED conversations by replaying the user messages already observed in each trajectory while editing only assistant-generated history. Replacing prior assistant responses with neutral content (termed neutralization) changes downstream min-max normalized performance by +.027 across 2,973 trajectories. On a prespecified length-controlled subset, short and length-matched neutralization yield nearly identical effects (+.069 versus +.068), showing that simple context shortening is insufficient to explain the effect of history editing. Turn Surgery further intervenes on one assistant turn at a time. Among 237 selected degraded trajectories, 63.7% contain at least one beneficial intervention, while most tested positions remain unchanged; for binary tasks, 48.4% admit a fail-to-success reversal. An open-weight case study links behaviorally consequential history changes to measurable downstream state differences, but finds task-dependent rather than universal internal signatures. Overall, assistant-generated history has active but selective effects on multi-turn performance, motivating selective rather than uniform history management.
• Abstract（参考訳）: マルチターン相互作用は、LLMの以前の応答が後の振る舞いのコンテキストとなるフィードバックプロセスを生成する。 以前の研究では、多ターンの劣化が顕著であり、アシスタント生成履歴は後の行動に影響を及ぼす可能性がある。 しかしながら、これらの効果がモデル、タスク、ターン、そしてモデルの内部でどのように現れるかは、まだ不明である。 6つのタスクファミリーと5つのモデルにまたがるギャップについて検討する。 完全なシングルターン入力 (FULL) から徐々に明らかにされたマルチターンインタラクション (SHARDED) への劣化は明らかにタスク依存であり、より強力なワンショット性能は相互作用の堅牢さを増すものではない。 そして,各経路ですでに観測されているユーザメッセージを再生し,アシスタント生成履歴のみを編集することで,完了したSHARDED会話を遡及的に分析する。 中性成分(中性化を終了)による事前アシスタント応答の置き換えは、2,973の軌道上で、下流のmin-max正規化性能を+.027変化させる。 予め規定された長さ制御サブセットでは、短中和と短中和はほぼ同じ効果(+.069対+.068)を示し、単純な文脈短縮は歴史編集の効果を説明するには不十分であることを示す。 ターン手術は、一度に1つのアシスタントターンでさらに介入する。 237の選抜された軌道のうち、63.7%は少なくとも1つの有益な介入を含んでいるが、ほとんどの試験された位置は変わっていない。 オープンウェイトケーススタディでは、行動の連続した履歴の変化と測定可能な下流状態の違いをリンクしているが、普遍的な内部シグネチャよりもタスクに依存している。 全体として、アシスタント生成履歴は、均一な履歴管理よりも選択的に、多ターンのパフォーマンスにアクティブだが選択的に影響を及ぼす。

関連論文リスト

• Phase-and-First-Arrival VLM Feedback for Sparse-Reward Reinforcement Learning in Surgical Manipulation [18.513281440175113]
  スパース・リワード強化学習では、終末報酬は同じ結果にそのような試みが崩壊する。 記録されたエピソードごとの1つのVLMクエリは、最も視覚的に検証されたタスクフェーズを識別する。 5つのシミュレートされたタスクにおいて,提案手法は平均75.2%に到達し,コントラスト言語-画像事前学習に基づく報酬は52.1%となった。
  論文  参考訳（メタデータ） (2026-09-07T08:29:59Z)
• The Intervention Gap in Latent World Models [0.0]
  計画時介入の忠実さは、学習された世界モデルの際立った、測定可能な特性である。 リリースされたTD-MPC2チェックポイントサイズ全体で、タスクオブザーバのオペレータエラー診断が増加するにつれて、エピソードリターンが減少する。 タスク信号無しで訓練された自己教師付き世界モデルは、共有タスク上のタスク選択モデルよりもかなり優れた演算子を保存する。
  論文  参考訳（メタデータ） (2026-08-30T19:47:51Z)
• CUE-R: Beyond the Final Answer in Retrieval-Augmented Generation [0.996038809132083]
  CUE-Rは、単発RAGにおいて、エビデンス単位の操作性を測定するためのフレームワークである。 CUE-RはREMOVE、REPLACE、DUPLICATE演算子を介して個々の証拠項目を摂動し、3つのユーティリティ軸に沿って変化を測定する。 その結果,回答のみの評価は重要なエビデンス効果を見逃し,介入に基づくユーティリティ分析がRAG評価の実践的補完となることが示唆された。
  論文  参考訳（メタデータ） (2026-04-07T06:05:08Z)
• Multimodal Task Interference: A Benchmark and Analysis of History-Target Mismatch in Multimodal LLMs [10.302976038652647]
  タスク干渉は、単一の会話内でタスクスイッチによって引き起こされるパフォーマンス劣化であり、テキストのみの設定でのみ研究されている。 我々は,この現象をマルチモーダル LLM で評価するためのベンチマークを提案し,テキストと視覚の6つのタスクを,モダリティミスマッチ,推論ミスマッチ,応答形式ミスマッチという3つの軸に沿って,ヒストリーターゲットの体系的なバリエーションでカバーした。 オープンウェイトモデルとプロプライエタリモデルの両方の実験では、タスクの干渉は非常に指向性が高く、テキストのみからイメージベースのターゲットに切り替えるとパフォーマンスが低下し、リバーストランジションは最小限の劣化をもたらす。
  論文  参考訳（メタデータ） (2026-03-19T02:36:42Z)
• Do LLMs Benefit From Their Own Words? [56.73014497206615]
  先行するアシスタント応答の除去は,少数のターンにおいて応答品質に影響を与えないことがわかった。 アシスタント側コンテキストのオミッティングは、累積コンテキストの長さを最大10倍に減らすことができる。 本研究は, 記憶量削減を図り, アシスタント履歴を選択的に省略することで, 応答品質を向上できることを示唆する。
  論文  参考訳（メタデータ） (2026-02-27T18:58:26Z)
• Human Cognitive Biases in Explanation-Based Interaction: The Case of Within and Between Session Order Effect [46.80756527630539]
  Explanatory Interactive Learning (XIL)は、ユーザーが説明と対話することでAIモデルをカスタマイズし、修正できるように設計された強力な対話型学習フレームワークである。 近年の研究では、説明的相互作用が、提示された項目の順序がユーザの信頼に影響を及ぼし、批判的にフィードバックの質に影響を及ぼす、よく知られた認知バイアスである注文効果を誘発するのではないかという懸念が提起されている。 命令効果と説明的相互作用の相互作用を明らかにするために,一般的なXILタスクを模倣する2つの大規模ユーザスタディを実行した。
  論文  参考訳（メタデータ） (2025-12-04T12:59:54Z)
• Mitigating Multimodal Hallucinations via Gradient-based Self-Reflection [49.26064449816502]
  本研究では,テキスト・視覚バイアスと共起バイアスに対処するために,グラディエントベースのインフルエンス・アウェア制約付きデコーディング(GACD)手法を提案する。 GACDは幻覚を効果的に低減し、MLLM出力の視覚的接地を改善する。
  論文  参考訳（メタデータ） (2025-09-03T08:13:52Z)
• Positional Biases Shift as Inputs Approach Context Window Limits [57.00239097102958]
  入力がモデルのコンテキストウィンドウの最大50%を占める場合、LiM効果は最強となる。 関係情報が入力の終端に近づくと,モデルの性能が向上する,距離に基づくバイアスが観測される。
  論文  参考訳（メタデータ） (2025-08-10T20:40:24Z)
• Bidirectional Decoding: Improving Action Chunking via Guided Test-Time Sampling [51.38330727868982]
  動作チャンキングが学習者と実証者の間の分岐にどのように影響するかを示す。 動作チャンキングをクローズドループ適応でブリッジするテスト時間推論アルゴリズムである双方向デコーディング(BID)を提案する。 提案手法は、7つのシミュレーションベンチマークと2つの実世界のタスクにまたがって、最先端の2つの生成ポリシーの性能を向上させる。
  論文  参考訳（メタデータ） (2024-08-30T15:39:34Z)
• A Simple Solution for Offline Imitation from Observations and Examples with Possibly Incomplete Trajectories [122.11358440078581]
  オフラインの模倣は、任意のインタラクションがコストがかかり、専門家のアクションが利用できない現実世界のシナリオで有用である。 本研究では,タスク固有の専門的状態とタスクに依存しない非専門的状態-アクションペアのみを利用できるMPPを解決するために,観察から学習するトラジェクトリ・アウェア・ラーニング(TAILO)を提案する。
  論文  参考訳（メタデータ） (2023-11-02T15:41:09Z)
• Can contrastive learning avoid shortcut solutions? [88.249082564465]
  暗黙的特徴修正(IFM)は、より広い種類の予測的特徴を捉えるために、対照的なモデルを導くために、正と負のサンプルを変更する方法である。 IFMは特徴抑制を低減し、その結果、視覚および医用画像タスクのパフォーマンスが向上する。
  論文  参考訳（メタデータ） (2021-06-21T16:22:43Z)
• Improving Multi-Turn Response Selection Models with Complementary Last-Utterance Selection by Instance Weighting [84.9716460244444]
  我々は、データリソース自体の根底にある相関を利用して、異なる種類の監視信号を導出することを検討する。 2つの公開データセットで広範な実験を行い、両方のデータセットで大幅に改善した。
  論文  参考訳（メタデータ） (2020-02-18T06:29:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。