論文の概要: How Implicit Bias Accumulates and Propagates in LLM Long-term Memory

• arxiv url: http://arxiv.org/abs/2602.01558v1
• Date: Mon, 02 Feb 2026 02:52:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-03 19:28:33.851904
• Title: How Implicit Bias Accumulates and Propagates in LLM Long-term Memory
• Title（参考訳）: LLM長期記憶におけるインプシットバイアスの蓄積と伝播
• Authors: Yiming Ma, Lixu Wang, Lionel Z. Wang, Hongkun Yang, Haoming Sun, Xin Xu, Jiaqi Wu, Bin Chen, Wei Dong,
• Abstract要約: 本研究では,長期記憶を備えたLarge Language Models (LLMs) において,微妙な統計的偏見として定義された暗黙のバイアスがどのように蓄積し,伝播するかを検討する。 本稿では,長期的意思決定プロセスにおける暗黙のバイアスを定量化するために,決定に基づくインプリシットバイアス(DIB)ベンチマークを導入する。 LLMの暗黙バイアスは、静的な状態にとどまらず、時間とともに増大し、無関係な領域にわたって伝播することを示す。 本稿では,メモリ書き込み時の公平性制約を強制するエージェント介入である動的メモリタギング(DMT)を提案する。
• 参考スコア（独自算出の注目度）: 23.34108373101368
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Long-term memory mechanisms enable Large Language Models (LLMs) to maintain continuity and personalization across extended interaction lifecycles, but they also introduce new and underexplored risks related to fairness. In this work, we study how implicit bias, defined as subtle statistical prejudice, accumulates and propagates within LLMs equipped with long-term memory. To support systematic analysis, we introduce the Decision-based Implicit Bias (DIB) Benchmark, a large-scale dataset comprising 3,776 decision-making scenarios across nine social domains, designed to quantify implicit bias in long-term decision processes. Using a realistic long-horizon simulation framework, we evaluate six state-of-the-art LLMs integrated with three representative memory architectures on DIB and demonstrate that LLMs' implicit bias does not remain static but intensifies over time and propagates across unrelated domains. We further analyze mitigation strategies and show that a static system-level prompting baseline provides limited and short-lived debiasing effects. To address this limitation, we propose Dynamic Memory Tagging (DMT), an agentic intervention that enforces fairness constraints at memory write time. Extensive experimental results show that DMT substantially reduces bias accumulation and effectively curtails cross-domain bias propagation.
• Abstract（参考訳）: 長期記憶機構により、LLM(Large Language Models)は、対話ライフサイクルをまたいだ継続性とパーソナライゼーションを維持できるが、公平性に関連する新たな、未調査のリスクも導入する。 本研究では,長期記憶を備えたLSM内での暗黙の偏見を,微妙な統計的偏見として定義し,蓄積し,伝播させる方法について検討する。 組織的分析を支援するために,9つの社会ドメインにわたる3,776の意思決定シナリオからなる大規模データセットであるDecision-based Implicit Bias (DIB) Benchmarkを導入し,長期的意思決定プロセスにおける暗黙的バイアスを定量化する。 現実的なロングホライゾン・シミュレーション・フレームワークを用いて,DIB上の3つの代表的なメモリアーキテクチャと統合された6つの最先端LLMを評価し,LLMの暗黙バイアスが静的にとどまらず,時間とともに増大し,非関連領域間で伝播することを示す。 さらに、緩和戦略を分析し、静的なシステムレベルのプロンプトベースラインが限定的かつ短命なデバイアス効果をもたらすことを示す。 この制限に対処するために、メモリ書き込み時の公平性制約を強制するエージェント介入であるDynamic Memory Tagging (DMT)を提案する。 大規模な実験結果から,DMTはバイアス蓄積を著しく低減し,ドメイン間バイアス伝播を効果的に抑制することが示された。

関連論文リスト

• FORESTLLM: Large Language Models Make Random Forest Great on Few-shot Tabular Learning [20.27406245916013]
  本稿では,大規模言語モデル(LLM)の意味的推論能力を用いて,決定林の構造的帰納バイアスを統一する枠組みを提案する。 まずLLMがラベル付きデータとラベルなしデータの両方の一貫性に基づいて候補分割を評価するセマンティックスプリッティング基準を導入し、より堅牢で一般化可能な木構造を数発の監視下で実現する。 第2に,LLMが決定経路とその支持例を簡潔で決定論的な予測に蒸留し,雑音の多い経験的推定を意味的インフォームドアウトプットに置き換える,葉ノード安定化のためのワンタイムインコンテキスト推論機構を提案する。
  論文  参考訳（メタデータ） (2026-01-16T14:08:51Z)
• Boosting Micro-Expression Analysis via Prior-Guided Video-Level Regression [15.099304324307434]
  マイクロ・エクスプレッション(ME)は、不随意、低強度、短時間の表情である。 既存のME分析手法の多くは、固定されたウィンドウサイズと難しい決定を伴うウィンドウレベルの分類に依存している。 本稿では,ME解析のための事前誘導型ビデオレベル回帰手法を提案する。
  論文  参考訳（メタデータ） (2025-08-26T09:13:36Z)
• Beyond Exponential Decay: Rethinking Error Accumulation in Large Language Models [0.0]
  エラーは均一に分散されていないが、重要な決定ジャンクションを表すスパースな"キートークン"に集中していることを示す。 本稿では,意味的に重要なトークンを選択的に保存することを目的とした次世代システムのためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-05-30T03:57:31Z)
• Long-Context State-Space Video World Models [66.28743632951218]
  本稿では、状態空間モデル(SSM)を活用して、計算効率を損なうことなく時間記憶を拡張する新しいアーキテクチャを提案する。 我々の設計の中心はブロックワイズSSMスキャン方式であり、時間記憶の拡張のために空間整合性を戦略的にトレードオフする。 メモリ迷路とMinecraftのデータセットの実験は、我々のアプローチが長距離メモリ保存のベースラインを超えたことを示している。
  論文  参考訳（メタデータ） (2025-05-26T16:12:41Z)
• Small but Mighty: Enhancing Time Series Forecasting with Lightweight LLMs [11.1036247482657]
  本稿では,SMETimesについて述べる。SMETimesは,3B以下のパラメータのSLMを,効率的かつ正確な時系列予測を行うための最初の体系的な研究である。 統計的特徴によって数値時系列をテキスト意味論でブリッジする統計的に強化されたプロンプト機構; 学習可能なパラメータを通して時間パターンと言語モデルトークン空間を整列する適応型融合埋め込みアーキテクチャ。
  論文  参考訳（メタデータ） (2025-03-05T15:27:36Z)
• Reprogramming Foundational Large Language Models(LLMs) for Enterprise Adoption for Spatio-Temporal Forecasting Applications: Unveiling a New Era in Copilot-Guided Cross-Modal Time Series Representation Learning [0.0]
  パティオ時間予測は、輸送システム、物流、サプライチェーン管理など、様々な分野において重要な役割を担っている。 本稿では,オープンソースの大規模・小規模言語モデル(LLM,LM)と従来の予測手法を組み合わせたハイブリッド手法を提案する。
  論文  参考訳（メタデータ） (2024-08-26T16:11:53Z)
• SHERL: Synthesizing High Accuracy and Efficient Memory for Resource-Limited Transfer Learning [63.93193829913252]
  本稿では,リソース制限シナリオに対するSHERLと呼ばれる革新的なMETL戦略を提案する。 初期経路では、中間出力は反冗長動作によって統合される。 遅延ルートでは、最小限の遅延事前トレーニングされたレイヤを利用することで、メモリオーバーヘッドのピーク需要を軽減できる。
  論文  参考訳（メタデータ） (2024-07-10T10:22:35Z)
• Decision Mamba: A Multi-Grained State Space Model with Self-Evolution Regularization for Offline RL [57.202733701029594]
  本稿では,自己進化型政策学習戦略を持つ新しい多粒状態空間モデル(SSM)であるDecision Mambaを提案する。 これらの課題に対処するため、我々は自己進化型政策学習戦略を持つ新しい多粒状態空間モデル(SSM)であるDecision Mambaを提案する。 雑音性軌道上における過度に適合する問題を緩和するために,進行正則化を用いて自己進化政策を提案する。
  論文  参考訳（メタデータ） (2024-06-08T10:12:00Z)
• Statistical control for spatio-temporal MEG/EEG source imaging with desparsified multi-task Lasso [102.84915019938413]
  脳磁図(MEG)や脳電図(EEG)のような非侵襲的手法は、非侵襲的手法を約束する。 ソースローカライゼーション(ソースイメージング)の問題は、しかしながら、高次元の統計的推測問題を引き起こす。 この問題に対処するために,分離されたマルチタスクラッソ(ecd-MTLasso)のアンサンブルを提案する。
  論文  参考訳（メタデータ） (2020-09-29T21:17:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。