論文の概要: Clarification Is Not Correction: LLMs Fail to Let Go

• arxiv url: http://arxiv.org/abs/2609.25337v1
• Date: Mon, 21 Sep 2026 19:28:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.091166
• Title: Clarification Is Not Correction: LLMs Fail to Let Go
• Title（参考訳）: 明確化は正しいものではない:LSMは失敗に終わる
• Abstract要約: 多くの会話において、モデルは忘れないが、コミットは早すぎる。 未解決のユーザ意図がコミットされたタスク状態に崩壊するのです。 本稿では,Gemini-2.5-Pro と Gemini-2.5-Flash を用いて,記述,計画,コーディングにおける制御された対話タスクを用いて学習する。
• 参考スコア（独自算出の注目度）: 6.108168944049461
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dialogue failures in language models are usually framed as memory failures: context too long, summaries lossy, a constraint forgotten. We argue this misses a deeper problem: in many conversations the model does not forget, it commits too early. An ambiguous early turn collapses into a single hidden interpretation, and later clarification is filtered through that commitment. We call this early posterior collapse: unresolved user intent collapsing into a committed task state before ambiguity is resolved. We study it with controlled dialogue tasks in writing, planning, and coding using Gemini-2.5-Pro and Gemini-2.5-Flash. Across thousands of trials, the same information in different orders yields different outcomes, even when the final dialogue contains equivalent task-relevant information. This order effect suggests later clarification is treated as extra context rather than a corrective signal: it refines a stale task state without invalidating it. Coding tasks are especially vulnerable, suggesting early assumptions get embedded in structured artifacts such as interfaces and control flow. Standard prompting and memory strategies do not reliably help: summaries can collapse ambiguity, and chain-of-thought can reduce explicit wrong commitment in reasoning traces without improving final task success. These findings motivate uncertainty-preserving state management. If assistants cannot let go of early interpretations, robustness cannot rely on post hoc correction alone; it must keep ambiguous early turns from hardening into one task state. Assistants should hold tentative hypotheses while ambiguity remains, ask before executing when high-impact ambiguity persists, and rebuild from a revised state when later evidence invalidates an earlier reading. Rather than one prompting fix, we aim to redirect research for interactive LLMs from retaining more context toward preserving uncertainty.
• Abstract（参考訳）: 言語モデルにおける対話の失敗は通常、コンテキストが長すぎる、要約が失われ、制約が忘れられる、メモリ障害としてフレーム化される。 多くの会話において、モデルは忘れないが、あまりに早くコミットする。 曖昧な早期のターンは単一の隠された解釈に崩壊し、後にそのコミットメントを通じて明確化される。 曖昧さが解決する前に、未解決のユーザ意図がコミットされたタスク状態に崩壊する。 本稿では,Gemini-2.5-Pro と Gemini-2.5-Flash を用いて,記述,計画,コーディングにおける制御された対話タスクを用いて学習する。 何千もの試行において、異なる順序の同じ情報が、最終対話に同等のタスク関連情報が含まれている場合でも、異なる結果をもたらす。 この順序効果は、後の明確化を訂正信号ではなく追加の文脈として扱うことを示唆している。 コーディングタスクは特に脆弱であり、インターフェースや制御フローなどの構造化アーティファクトに初期仮定が組み込まれることを示唆している。 要約は曖昧さを崩壊させ、チェーン・オブ・シントは最終的なタスクの成功を改善することなくトレースを推論する際の明確な誤ったコミットメントを減らせる。 これらの知見は不確実性保存状態管理を動機付けている。 アシスタントが早期解釈を放棄できない場合、堅牢性はポストホック修正のみに頼ることはできない。 アシスタントは、あいまいさが残っている間に仮の仮説を保持し、ハイインパクトなあいまいさが持続するときに実行前に質問し、後続の証拠が後続の読みを無効にするときに修正された状態から再構築するべきである。 即時的な修正ではなく,対話型LCMの研究を,不確実性を維持するためのコンテキストを維持しないようリダイレクトすることを目的としている。

関連論文リスト

• Track, Rank, Crack: Epistemic Working Memory Scales Multi-Hop Reasoning in Language Agents [6.241883798820154]
  推論とツールをインターリーブする言語エージェントは、推論チェーンが長くなるにつれて急速に低下する。 SLEUTHを導入し、この状態を明示し、構造化されたワーキングメモリを通して実行可能にする。 SLEUTHの優位性は難易度とともに増大し,複数のエピソードを伴わずにReflexionを上回った。
  論文  参考訳（メタデータ） (2026-07-14T02:10:46Z)
• StateFuse: Deterministic Conflict-Preserving Memory for Multi-Agent Systems [6.160059055899747]
  StateFuseは、標準のOpsSet/CRDTマージ上に構築された、コンフリクト対応の複製メモリコントラクトである。 整合型リゾルバと検証ポリシの下で, フラットなマルチ値, 生ログ, プロファイランススタイル, 崩壊ベースラインに対してStateFuseを評価する。
  論文  参考訳（メタデータ） (2026-07-07T05:06:33Z)
• Entity Binding Failures in Speech LLM Reasoning: Diagnosis and Chain-of-Thought Intervention [13.564631357170276]
  音声大言語モデル(SLLM)は、複雑な推論においてテキストモデルよりも性能が低い。 空間的, 構文的, 事実的タスクにおいて, テキスト間マッチング(S2T)はテキスト間マッチング(T2T)を超えているかを示す。 エンティティ追跡を必要とする論理的タスクでは、S2Tの精度は偶然に崩壊する。
  論文  参考訳（メタデータ） (2026-06-03T05:44:09Z)
• Agent-BRACE: Decoupling Beliefs from Actions in Long-Horizon Tasks via Verbalized State Uncertainty [70.43119366710778]
  本稿では,Agens-BRACE: Agent Belief state Representation by Abstraction and Confidence Estimationを紹介する。 LLMエージェントを信頼状態モデルと政策モデルに分離し、強化学習を通じて協調的に最適化する手法である。 長期にわたる部分的に観察可能な言語環境において、平均して+14.5%の絶対的な改善を実現している。
  論文  参考訳（メタデータ） (2026-05-12T02:37:04Z)
• One Turn Too Late: Response-Aware Defense Against Hidden Malicious Intent in Multi-Turn Dialogue [55.98008208209856]
  マルチターン対話における隠れた悪意のある意図は、大規模言語モデル(LLM)に対する脅威を増大させる 近年の研究では、安全アライメントや外部ガードレールの進歩にもかかわらず、高度なガードレールを備えた近代的な商用モデルでさえも、このような攻撃に対して脆弱であることが示されている。 そこで本研究では,この課題に対処するため,最も早いタイミングで候補応答を届けることによって,蓄積された相互作用が有害な作用を可能にするのに十分であることを示す。
  論文  参考訳（メタデータ） (2026-05-07T03:35:31Z)
• Pause or Fabricate? Training Language Models for Grounded Reasoning [50.104657152302956]
  不完全情報に基づくグラウンドド推論のために,対話型強化学習(GRIL)によるグラウンドド推論を提案する。 GRILは推論プロセスを2つの段階に分解する: 明確化と一時停止、利用可能な情報が十分かどうかを識別する。 GSM8K-InsufficientおよびMetaMATH-Insufficientの実験では、GRILは前提検出を大幅に改善し(最大45%)、平均応答長を20%以上削減しながらタスク成功率が30%向上した。
  論文  参考訳（メタデータ） (2026-04-21T16:45:29Z)
• AI Knows What's Wrong But Cannot Fix It: Helicoid Dynamics in Frontier LLMs Under High-Stakes Decisions [51.56484100374058]
  ヘリコイド力学(Helicoid dynamics)は、その2番目のドメインの特定の障害状態に与えられる名前である。 システムは巧みに働き、エラーに陥り、何がうまくいかなかったかを正確に名付け、さらに高度な技術で同じパターンを再現する。 この先進的な事例シリーズは、7つの主要なシステムにまたがる体制を文書化する。
  論文  参考訳（メタデータ） (2026-03-12T05:25:49Z)
• Aligning Language Models to Explicitly Handle Ambiguity [22.078095273053506]
  我々は,あいまいなクエリを扱うために,言語モデルを整列する新しいパイプラインであるAlignment with Perceived Ambiguity (APA)を提案する。 質問応答データセットの実験結果から、APAはLLMに対して、あいまいなクエリを明示的に検出し、管理する権限を持つことが示された。 我々の発見は、APAがゴールドスタンダードラベルのトレーニング、特にアウト・オブ・ディストリビューションのシナリオで優れていることを証明している。
  論文  参考訳（メタデータ） (2024-04-18T07:59:53Z)
• PROMPT WAYWARDNESS: The Curious Case of Discretized Interpretation of Continuous Prompts [99.03864962014431]
  目標タスクの微調整連続プロンプトは、フルモデルの微調整に代わるコンパクトな代替品として登場した。 実際には、連続的なプロンプトによって解決されたタスクと、最も近い隣人との間の「方向」の挙動を観察する。
  論文  参考訳（メタデータ） (2021-12-15T18:55:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。