論文の概要: DRIFTLENS: Measuring Memory-Induced Reasoning Drift in Personalized Language Models

• arxiv url: http://arxiv.org/abs/2607.02374v1
• Date: Thu, 02 Jul 2026 16:15:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.915582
• Title: DRIFTLENS: Measuring Memory-Induced Reasoning Drift in Personalized Language Models
• Title（参考訳）: DRIFTLENS:パーソナライズされた言語モデルにおけるメモリ誘起推論ドリフトの測定
• Abstract要約: パーソナライゼーションは、モデルがユーザに対して何を言っているかを変える。 本研究は,1つの基礎的答えが存在しないオープンエンドの質問に対して,そのような記憶が帰結するかどうかを考察する。
• 参考スコア（独自算出の注目度）: 24.737479348525536
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Personalization changes what a model says to a user; we show that it can also change the reasoning trajectory used to justify the response. Modern LLMs personalize interactions by storing user attributes, preferences, and prior context, then injecting this information into future prompts. We study whether such memory reshapes reasoning on open-ended questions where no single ground-truth answer exists. To quantify this effect, we introduce DRIFTLENS, a ground-truth-free framework that maps each expressed reasoning step to a value category and measures divergence between a question's no-memory trajectory and its trajectory under injected user-attribute memory. We first validate that DRIFTLENS distinguishes content-free pragmatic noise from substantive reasoning changes. Across four LLMs and 10 user-attribute categories, including age, occupation, and disability, user-attribute memory induces medium-to-large reasoning drift above each model's pragmatic-noise floor, even when final answers remain fluent, on-topic, and plausible. We then evaluate GRPO- and DPO-based post-training methods for reducing drift. Both reduce drift, but neither uniformly dominates; effects on downstream capability, helpfulness, and instruction following are model-and reward-dependent. These results suggest that memory-induced reasoning drift is a measurable and only partly mitigated failure mode of personalized language models.
• Abstract（参考訳）: パーソナライゼーションは、モデルがユーザに対して何を言っているかを変える。 現代のLLMは、ユーザー属性、好み、事前コンテキストを記憶することでインタラクションをパーソナライズし、その情報を将来のプロンプトに注入する。 本研究は,1つの基礎的答えが存在しないオープンエンドの質問に対して,そのような記憶が帰結するかどうかを考察する。 この効果を定量化するために、DRIFTLENSは、表現された推論ステップを値カテゴリにマッピングし、質問の無メモリ軌跡とユーザ属性メモリ下での軌跡のばらつきを測定する。 DRIFTLENSはコンテンツフリーの実用的ノイズと実体的推論変化を区別する。 年齢、職業、障害を含む4つのLCMと10のユーザ属性カテゴリにまたがって、ユーザ属性メモリは、最終回答が流動的で、オントピー的、そしてプラウザブルであっても、各モデルの実用的ノイズフロアの上に、中から大規模の推論フローを誘導する。 次に,ドリフト低減のためのGRPOおよびDPOに基づくポストトレーニング手法の評価を行った。 どちらもドリフトを減少させるが、どちらも一様ではない。下流能力、有用性、および命令に対する影響はモデルと報酬に依存している。 これらの結果から, 記憶誘発推論ドリフトは, パーソナライズされた言語モデルにおいて, 部分的には障害モードが緩和されることが示唆された。

関連論文リスト

• DriftScope: Measuring The Hidden Effects of Diffusion Model Adaptation [50.584834483403675]
  新しい視覚概念を学習するか、望ましくないものを消去するか、事前学習したテキスト・画像拡散モデルに適応させることは、意図した効果だけで日常的に評価される。 適応が意味論的に無関係な概念を、構造的にメトリクスを集約することができない方法で体系的に損なうことを実証する。 DriftScopeは、任意の2つのモデルチェックポイントを取り込み、視覚的概念が最も移行したトークンのランクリストを返す、プロンプトレベルの診断ツールである。
  論文  参考訳（メタデータ） (2026-06-30T20:57:51Z)
• From Facts to Insights: A Persona-Driven Dual Memory Framework and Dataset for Role-Playing Agents [50.66268133366637]
  現在のシステムはペルソナに依存しない要約に依存しており、ペルソナ固有の解釈なしで事実を記録する。 RoleMemoは4つの推論タスクを備えたデータセットで、実際の断片をペルソナを通して解釈して正しい回答を得る必要がある。 本稿では,記憶を2つのストリームに分解するDualMemを提案する。
  論文  参考訳（メタデータ） (2026-05-25T10:48:24Z)
• Beyond Factual Correctness: Mitigating Preference-Inconsistent Explanations in Explainable Recommendation [2.379349092029744]
  LLMベースの説明可能なレコメンデータは、実際に正しい説明を作成できるが、ユーザの過去の好みと矛盾する属性を使ってアイテムを正当化することができる。 我々は、この障害モードを形式化し、選択列生成パラダイムに従う優先認識推論フレームワークPUREを提案する。 PUREはマルチホップアイテム中心の推論パスのコンパクトなセットを選択し、ユーザの嗜好構造と整合し、ユーザ意図、特異性、多様性によってガイドされ、汎用的で弱いパーソナライズされた証拠を抑える。
  論文  参考訳（メタデータ） (2026-03-03T15:24:51Z)
• MeGU: Machine-Guided Unlearning with Target Feature Disentanglement [73.49657372882082]
  本稿では,概念意識の再調整を通じて学習をガイドする新しいフレームワークを提案する。 MeGUは制御的かつ選択的に忘れることを可能にし、アンダーアンラーニングとオーバーアンラーニングの両方を効果的に緩和する。
  論文  参考訳（メタデータ） (2026-02-19T05:20:31Z)
• How Does Personalized Memory Shape LLM Behavior? Benchmarking Rational Preference Utilization in Personalized Assistants [25.83552447206606]
  大規模言語モデル(LLM)を利用したアシスタントは、最近、ユーザの好みを記録するメモリメカニズムを統合し、よりパーソナライズされ、ユーザに準拠した応答をもたらす。 RPEvalは、パーソナライズされた意図推論データセットとマルチグラニュラリティ評価プロトコルからなるベンチマークである。 RPEvalは、既存のLCMにおける不合理なパーソナライゼーションの広範な現象を明らかにし、エラーパターン解析を通じて、ユーザエクスペリエンスに悪影響を及ぼすことを示す。 本稿では、メモリ利用を実用的な推論プロセスとして扱い、パーソナライズされた情報の選択的統合を可能にするRP-Reasonerを紹介する。
  論文  参考訳（メタデータ） (2026-01-23T10:19:48Z)
• LikeBench: Evaluating Subjective Likability in LLMs for Personalization [11.75597537798083]
  第三の軸であるリキスタビリティは、主観的かつユーザエクスペリエンスの中心でありながら、現在のベンチマークでは過小評価されていない、と私たちは主張する。 マルチセッション動的評価フレームワークであるLikeBenchを紹介する。 DeepSeek R1は、メモリ精度が低い(86%、17の事実/注目)が、Qwen3のメモリ精度が高い(93%、43の事実/注目)にもかかわらず、ライカビリティスコアが28%向上した。 GPT-5のようなSOTAモデルでさえ、略してうまく適応する
  論文  参考訳（メタデータ） (2025-12-15T08:18:42Z)
• Mitigating Spurious Correlations Between Question and Answer via Chain-of-Thought Correctness Perception Distillation [25.195244084313114]
  CoPeD (Chain-of-Thought Correctness Perception Distillation) は,学生モデルの推論品質の向上を目的としている。 CoPeDは学生モデルに対して、正しい合理性に基づいて回答を予測し、誤ったときに修正するよう推奨する。
  論文  参考訳（メタデータ） (2025-09-06T05:33:17Z)
• Context-Free Synthetic Data Mitigates Forgetting [13.825822994127943]
  文脈自由な世代による微調整データセットの強化は、忘れを省くことを示す。 予備学習用OLMo-1Bと推論用R1-Distill-Llama-8Bについて検討した。
  論文  参考訳（メタデータ） (2025-05-20T01:47:31Z)
• What if you said that differently?: How Explanation Formats Affect Human Feedback Efficacy and User Perception [53.4840989321394]
  我々は,QAモデルが生成した有理性の効果を分析し,その答えを支持する。 ユーザに対して,様々な形式で誤った回答とそれに対応する有理性を提示する。 このフィードバックの有効性を,文脈内学習を通じて評価する。
  論文  参考訳（メタデータ） (2023-11-16T04:26:32Z)
• Elastic Weight Removal for Faithful and Abstractive Dialogue Generation [61.40951756070646]
  対話システムは、関連する文書に含まれる知識に忠実な応答を生成するべきである。 多くのモデルは、それと矛盾したり、検証不可能な情報を含んでいる代わりに幻覚応答を生成する。 本手法は,幻覚と抽出反応を同時に阻止するために拡張できることが示唆された。
  論文  参考訳（メタデータ） (2023-03-30T17:40:30Z)
• Remembering for the Right Reasons: Explanations Reduce Catastrophic Forgetting [100.75479161884935]
  我々は、RRR(Remembering for the Right Reasons)と呼ばれる新しいトレーニングパラダイムを提案する。 RRRは、各例の視覚モデル説明をバッファに格納し、モデルが予測に「正しい理由」を持つことを保証する。 メモリや正規化ベースのアプローチでRRRを容易に追加できることを示し、その結果、忘れを少なくする。
  論文  参考訳（メタデータ） (2020-10-04T10:05:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。