論文の概要: The Right Source Is Not Enough: Understanding History Interference in Speech-LLM Memory

• arxiv url: http://arxiv.org/abs/2611.05124v1
• Date: Tue, 03 Nov 2026 16:11:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 14:14:09.498506
• Title: The Right Source Is Not Enough: Understanding History Interference in Speech-LLM Memory
• Title（参考訳）: 音声LLMメモリにおける履歴干渉の理解
• Abstract要約: 歴史的値が特定の競合する解に対して誤差を誘導することを示す。 オープンエンドの質問応答では、ほとんどの履歴値エラーは、その後の計算が無関係なソースに直接アクセスできないときに消失する。 低次元の介入により、ソースロール情報と回答値情報はさらに分離される。
• 参考スコア（独自算出の注目度）: 17.41559052138033
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Speech large language models retain audio history to support multi-turn conversations. Yet remembering an event does not ensure that its information is used only when relevant. We investigate why irrelevant historical audio changes answers even when the queried event remains represented. Controlled experiments on MOSS-Audio and MiMo-Audio show that historical values direct errors toward specific competing answers, beyond a generic effect of context length. Causal interventions distinguish two paths. In open-ended question answering, most history-value errors disappear when subsequent computation cannot directly access the irrelevant source. In multiple-choice answering, many errors persist: early historical influence is carried by question-candidate states even after direct source access is blocked. Low-dimensional interventions further separate source-role information from answer-value information. Their effects peak at different depths, and changing the source-role signal does not eliminate the causal influence of competing values. On naturally occurring errors, strengthening the queried role and counteracting the historical value each improve answers; their joint intervention gives the greatest recovery. These findings support a failure of downstream evidence use beyond source identification alone: source-role information can influence a decision without exclusively controlling which historical values affect it. Reliable conversational memory therefore requires not only retention and retrieval, but also control over how retained information enters answer computation.
• Abstract（参考訳）: 音声大言語モデルは、マルチターン会話をサポートするためにオーディオ履歴を保持する。 しかし、イベントを記憶することは、その情報が関連する場合にのみ使用されることを保証しない。 問い合わせイベントが継続する場合でも,関連性のない過去の音声変化が応答する理由について検討する。 MOSS-Audio と MiMo-Audio の制御された実験は、歴史的値が文脈長の一般的な効果を超えて、特定の競合する答えにエラーを向けていることを示している。 因果的介入は2つの経路を区別する。 オープンエンドの質問応答では、ほとんどの履歴値エラーは、その後の計算が無関係なソースに直接アクセスできないときに消失する。 初期の歴史的影響は直接ソースアクセスがブロックされた後も質問候補状態によって実行される。 低次元の介入により、ソースロール情報と回答値情報はさらに分離される。 それらの効果は異なる深さでピークに達し、ソースロール信号の変更は競合する値の因果的影響を排除しない。 自然発生の誤り、クエリされた役割の強化、そして歴史的価値への対処は、それぞれが回答を改善する。 ソースロール情報は、どの歴史的価値が影響するかを排他的に制御することなく、決定に影響を及ぼす可能性がある。 したがって、信頼性の高い会話メモリは、保持と検索だけでなく、保持された情報がどのように回答計算に入るかを制御する必要がある。

関連論文リスト

• When History Helps and Hurts: Selective History Use across Multimodal Turns [25.156839762775306]
  本稿では,視覚的および音声的エビデンスにまたがる7,000のベースタスクのベンチマークであるReTurnを紹介する。 タスク・キャリア・ヒストリーにとって、Reconfirm/Regroundは様々な歴史的合意を交わしながら、過去の質問を現在のメディアに適用する必要がある。 証拠を運ぶ歴史について、Retrieve/Rebindは、様々なメディアコンペティションをしながら、歴史的なメディアを使用して現在の質問に答える必要がある。
  論文  参考訳（メタデータ） (2026-10-08T13:36:12Z)
• Memory Control Signals Emerge Before Action in Long Horizon Agents [55.84813053778976]
  各エージェントアクションの直前に隠された状態を調べ、圧縮とリコールの要求がモデルの内部表現にすでにエンコードされていることを確認する。 本研究では,状態誘導圧縮と外部エビデンス検索を組み合わせたPreaction Memory with Evidence Retrieval (PaMER)を提案する。
  論文  参考訳（メタデータ） (2026-09-23T03:23:34Z)
• What Should an Agent Forget? Separating What Is Stored from What Is Used [14.434131011155545]
  永続的な言語エージェントは、時間にわたって利用できるように格納されたエクスペリエンスを必要とします。 RD-Forgetは、エージェントが保存するものと使用するものとを分離する、トレーニング不要のフレームワークです。
  論文  参考訳（メタデータ） (2026-09-09T14:48:09Z)
• Do LLMs Benefit From Their Own Words? [56.73014497206615]
  先行するアシスタント応答の除去は,少数のターンにおいて応答品質に影響を与えないことがわかった。 アシスタント側コンテキストのオミッティングは、累積コンテキストの長さを最大10倍に減らすことができる。 本研究は, 記憶量削減を図り, アシスタント履歴を選択的に省略することで, 応答品質を向上できることを示唆する。
  論文  参考訳（メタデータ） (2026-02-27T18:58:26Z)
• Learning to Select the Relevant History Turns in Conversational Question Answering [27.049444003555234]
  関連する履歴の選択と正しい回答予測の依存関係は興味深いが、探索されていない領域である。 本稿では,まず,すべての履歴ターンのコンテキストと質問エンティティを生成するフレームワークであるDHS-ConvQAを提案する。 関連ターンの選択は、元の質問を書き換えるよりも有効であることを示す。
  論文  参考訳（メタデータ） (2023-08-04T12:59:39Z)
• History-Aware Hierarchical Transformer for Multi-session Open-domain Dialogue System [59.78425104243993]
  マルチセッションオープンドメイン対話のための履歴認識階層変換器(HAHT)を提案する。 HAHTは歴史会話の長期記憶を維持し、歴史情報を利用して現在の会話状況を理解する。 大規模マルチセッション会話データセットの実験結果は,提案したHAHTモデルがベースラインモデルより一貫して優れていることを示唆している。
  論文  参考訳（メタデータ） (2023-02-02T06:54:33Z)
• A Graph-guided Multi-round Retrieval Method for Conversational Open-domain Question Answering [52.041815783025186]
  本稿では,会話のターン間の回答間の関係をモデル化するグラフ誘導検索手法を提案する。 また,検索コンテキストが現在の質問理解に与える影響を検討するために,マルチラウンド関連フィードバック手法を導入することを提案する。
  論文  参考訳（メタデータ） (2021-04-17T04:39:41Z)
• Counterfactual VQA: A Cause-Effect Look at Language Bias [117.84189187160005]
  VQAモデルは、ショートカットとして言語バイアスに依存し、視覚と言語の両方からマルチモーダルな知識を十分に学ばない傾向にある。 本稿では,質問に対する直接的な因果的影響として,言語バイアスを捉えることのできる,新たな反事実推論フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-08T01:49:27Z)
• Improving Multi-Turn Response Selection Models with Complementary Last-Utterance Selection by Instance Weighting [84.9716460244444]
  我々は、データリソース自体の根底にある相関を利用して、異なる種類の監視信号を導出することを検討する。 2つの公開データセットで広範な実験を行い、両方のデータセットで大幅に改善した。
  論文  参考訳（メタデータ） (2020-02-18T06:29:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。