論文の概要: Where Did We Go Wrong? Localizing Errors to Repair Multi-Turn Conversations

• arxiv url: http://arxiv.org/abs/2610.15154v1
• Date: Sat, 10 Oct 2026 20:10:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 02:20:59.275451
• Title: Where Did We Go Wrong? Localizing Errors to Repair Multi-Turn Conversations
• Title（参考訳）: どこで間違いを犯したのか? マルチスレッド会話の修復にエラーを局所化する
• Abstract要約: 誤解釈を確率論的にローカライズするフレームワークであるLociを紹介する。 Lociはベースライン上のローカライゼーションを改善し,複数のエラーが発生した場合にその利点が大きくなることを示す。 次に、誤解釈が自然に発生する自由形式の会話で評価し、最初の失敗後にタスクを完了させるために必要な相互作用を測定する。
• 参考スコア（独自算出の注目度）: 49.396560970345284
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) assistants are increasingly used in multi-turn conversations, where the user's intent is often unclear at first and revealed only gradually over time. The assistant must therefore interpret each exchange and form inferences about the user's intent, using them to update its working state. These updates usually refine the assistant's understanding, but a misinterpretation can instead corrupt its working state by ruling out the true intent, influencing subsequent turns and ultimately causing the conversation to fail. Efficient recovery then requires locating and revising the misinterpretation without discarding information that remains valid. We introduce Loci (Localization Of Corrupted Inferences), a framework for probabilistically localizing misinterpretations and selectively repairing the assistant's working state. Given an observed failure, Loci reasons over possible user intents and assigns each update a probability of having excluded the true intent. These probabilities rank suspected updates and quantify the model's confidence in the localization of the underlying misinterpretations. Loci then uses this information in a repair policy that decides whether to retain, verify, or remove suspected updates, enabling recovery from corrupted inferences while preserving useful information. To evaluate Loci's ability to identify misinterpretations, we first test it in a controlled setup with injected errors. We find that Loci improves localization over the baselines, with its advantage becoming larger when multiple errors occur. We then evaluate it in free-form conversations, where misinterpretations arise naturally, and measure the interactions needed to complete the task after an initial failure. Using localization confidence to guide repair, Loci reduces mean recovery cost by 46-79% relative to the strongest baseline across multiple domains.
• Abstract（参考訳）: 大規模言語モデル(LLM)アシスタントは、ユーザの意図が当初不明であり、時間とともに徐々にしか明らかにされないマルチターン会話において、ますます使われるようになっている。 したがって、アシスタントは、各交換を解釈し、ユーザの意図を推測し、それらを使用してその動作状態を更新する必要がある。 これらの更新は、通常アシスタントの理解を洗練させるが、誤解釈は、実際の意図を除外し、その後のターンに影響を与え、最終的に会話を失敗させることによって、その動作状態を悪化させる可能性がある。 効率のよいリカバリは、有効な情報を捨てることなく、誤解釈の特定と修正を必要とする。 Loci(Localization of Corrupted Inferences)は,誤解釈を確率的に局所化し,アシスタントの動作状態を選択的に修復するフレームワークである。 観測された失敗を前提として、Lociはユーザインテントを優先し、各更新に真のインテントを除外した確率を割り当てる。 これらの確率は、疑わしい更新をランク付けし、基礎となる誤解の局所化に対するモデルの信頼度を定量化する。 Lociはこの情報を修復ポリシーで使用し、疑わしい更新の保持、検証、削除を決定する。 誤解釈を識別するLociの能力を評価するために,我々はまず,入力されたエラーで制御された設定で検証する。 Lociはベースライン上のローカライゼーションを改善し、複数のエラーが発生した場合にその利点が大きくなる。 次に、誤解釈が自然に発生する自由形式の会話で評価し、最初の失敗後にタスクを完了させるために必要な相互作用を測定する。 Lociはローカライゼーションの信頼性を利用して修復を誘導し、複数のドメインで最強のベースラインに対して平均回復コストを46～79%削減する。

関連論文リスト

• Are We Recovering Mechanisms? Objective-Level Recovery Gaps in Mechanistic Interpretability [9.522452128296834]
  介入定義忠実度は、モデルの振る舞いを再現しにくくする等サイズの回路を好むことを示す。 除外された信号を置き換えることで、保持されたコンポーネントが動作する入力が変化する。
  論文  参考訳（メタデータ） (2026-10-01T17:25:23Z)
• When Users Change Their Minds: Measuring and Repairing Intent Drift in LLM Agents [8.007546058619656]
  LLMエージェントは、ユーザが実行前に変更するマルチターンインタラクション上で動作する。 ユーザの意図に取って代わられた部分が最終回答やツールアクションに影響を与え続ける障害モードについて検討する。
  論文  参考訳（メタデータ） (2026-09-26T12:03:54Z)
• Inference-Time Steering for Cross-Lingual Factual Consistency in LLMs [51.56484100374058]
  大規模言語モデル(LLM)は目覚ましい多言語流布を示すが、その内部知識表現はハイリソース言語に対して不均等に偏っている。 我々は,これらのバイアスを推論時に緩和できるかどうかを考察し,対象言語でクエリされたかのように,英語の確率モデルに答えるように強制する。 Gemma 3 12Bの実験では、最も強い全体的な介入、効率性のバランス、安全性、ドメイン外の一般化を促すペルソナが明らかにされている。
  論文  参考訳（メタデータ） (2026-07-21T16:15:05Z)
• IHBench: Evaluating Post-Interruption Recovery in Voice Agents with Structured Workflows [17.25449864868632]
  既存の音声対応モデルのベンチマークでは、中断のタイミングに焦点が当てられている。 音声エージェントの中断後回復を評価するベンチマークIHBenchを紹介する。 OpenAI、Google、およびオープンウェイトコミュニティから27のオーディオ言語モデル構成を評価した。
  論文  参考訳（メタデータ） (2026-06-17T20:58:35Z)
• ReIn: Conversational Error Recovery with Reasoning Inception [43.5498321001366]
  本研究は,誤対話コンテキストの正確な診断と適切な回復計画の実行を必要とする誤り回復に焦点を当てる。 エージェントの意思決定プロセスに初期推論を組み込むテスト時間介入手法であるReasoning Inception (ReIn)を提案する。 ユーザ目標の達成を阻害する会話障害シナリオをシステマティックにシミュレートすることでReInを評価する。
  論文  参考訳（メタデータ） (2026-02-19T02:37:29Z)
• Repairs in a Block World: A New Benchmark for Handling User Corrections with Multi-Modal Language Models [48.42142115255159]
  命令追従操作タスクにおけるマルチモーダルなTPRシーケンスのデータセットであるBlockWorld-Repairsをリリースする。 現状のビジョンと言語モデル(VLM)を複数の設定で評価し,TPRの処理能力と正確な応答性に着目した。 以上の結果から,これらのモデルはまだマルチモーダル・コラボレーティブ・セッティングにデプロイする準備が整っていないことが示唆された。
  論文  参考訳（メタデータ） (2024-09-21T21:06:25Z)
• An Analysis and Mitigation of the Reversal Curse [70.13419502543915]
  最近の研究は、大型言語モデル(LLM)で注目すべき現象を観測している。 逆の呪文は、$a$と$b$の2つのエンティティを扱う場合、LLMは$aRb$,'という形式でシーケンスを処理するのに優れるが、$bR-1a$'を処理する場合の課題に直面することである。
  論文  参考訳（メタデータ） (2023-11-13T17:01:12Z)
• Mitigating Temporal Misalignment by Discarding Outdated Facts [58.620269228776294]
  大規模な言語モデルは、しばしば時間的ミスアライメントの下で使われ、現在に関する質問に答える。 我々は、ある事実がいつまで真実であるかを予測するタスクとして、事実期間予測を提案する。 私たちのデータとコードはhttps://github.com/mikejqzhang/mitigating_misalignment.comで公開されています。
  論文  参考訳（メタデータ） (2023-05-24T07:30:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。